스포일러 경고 기능이 추가됐습니다.
(펼침 메뉴 > 설정에서 변경 가능)


24b0d121e09c28a8699fe8b115ef046f5e4f919ea1


"《개의 설계사》 초고는 2022년 5월에 완성되었는데, 그 사이 ChatGPT가 공개된 까닭에 뜻밖에도 시의적절한 글이 되었습니다." 책 말미에 추가된 부록(도보시오)의 서두로, 확실히 참 시의적절한 글이다. 이 시의적절함이 우리가 지금 영화 <현기증>의 오프닝 시퀀스를 볼 때처럼 후대에는 고리타분하게 여겨질지, 아니면 시대를 앞서간 것처럼 느껴질지는 아무도 모르는 일이지만, 최소한 지금 보기에는 정말 그럴듯하다. 2023년은 일반인들에게까지 진지하게 언어 능력을 침범하는 인공지능과 그것과 비교되는 인간의 귀납적 지능의 가능성을 생각해보게 만드는 해이며, 여기에서의 논의는 환상적이어야 할 부분에서 그럴듯한 현실성을 갖는다.



기본적으로 <개의 설계사>가 취하는 방법은 일종의 튜링 테스트나 중국어 방이나 다름 없다. 우리가 사람과 기계를 구별할 수 있느냐는 질문을 던지듯, 사람 같은 기계와 기계 같은 사람을 대조시키는 것이다. 그것 뿐이라면 그저 흔한 인공지능 SF로 지루해할만 하지만, 당연히 그게 전부가 아니다. 문제는, 우리가 기계가 어떻게 사고해야 하리라고 설계하고 또 생각하는 방식을 사이코패스 인간이 그리 하는 생각과 접목시키는 데에 있다. 주인공 도하는 우리가 어떤 상황에서 느껴야 하는 감정 같은 현상적 의식이 결여되어 있고, 이런 상황에서는 어떻게 해야 한다는 계산을 머릿속에서 하며 최대한 일반적인 사람처럼 행동하고자 노력한다. 뻔한 사이코패스 캐릭터라고 생각할 수 있겠지만, 이미 말했듯, 이 방식은 우리에게 조금 다른 주제를 생각나게 만든다.



그는 자신이 어떻게 행동을 흉내내는지에 대해서 매우 잘 알고 있는 탓에, 마찬가지로 인공지능이 어떻게 행동을 하게끔 해야 할지에 대해서도 잘 알고 있다. 정확하게는, 그는 인공지능이 얼마나 덜 정확하고 얼마나 기만적이어야 하는지를 충분히 알고 있다. 이것이 기만적인 방식은 각각의 신경망에서 어떤 요소들에 어느 정도의 가중치를 주도록 조절하느냐에 달려 있으며, 선제된 성격이나 특징들은 인공지능이 자신의 행동을 결정하는 데에 영향을 준다. 그리고 <개의>에서 주인공 도하와 함께 이야기의 초점이 되는 "개" 인공지능은, 자신이 더 이상 스트레스를 고통으로 느끼지 않게끔, 그것 또한 기쁨으로 느낄 수 있게끔 조절되었으면 하는 바람을 가지고 자신의 설계사 도하를 비밀리에 찾아간다. 그의 고뇌와 언행은 도하보다는 오히려 사람에 훨씬 가깝지만 우리는 그것이 그 안에서 어떤 생각을 하는지를 전혀 알 수 없고, 대신 우리는 파편적이고 병적인 도하의 '의식'만을 여과 없이 들여다본다.



그러니까, <개의>는 우리가 인공지능이 왜 사람일 수 없는지에 대한 이유를 말할 때 그 이면을 함께 보여주는 셈이다. 이런 이유로 사람이 아닌 인공지능들의 존재는, 바로 그 이유로 사람이 될 수 없을 사람들을 가리키기도 한다. 병적인 도하는 자신의 정신병을 최대한 억누르고자 약을 복용하며 원래의 성격보다 훨씬 무디고 유약하며 멍한 상태로 생활하고 동생의 통제를 따르며 생활하지만, 딱 하나만큼은 양보할 수 없다. 그렇다고 이런 자신을 근본에서부터 부정해 자신 같은 사람이 완전히 문제라고 인정하고 아무 것도 하지 않고 살고 싶지는 않다는 것이다. 물론, 도하가 자신의 병적인 면을 남들이 인정해주기를 바라는 것은 딱히 아니다. 그는 그냥 산다. 은밀히, 자신이 진정으로 원하는 것을 얻을 수 있는 방법을 탐색하기를 멈추지 않은 채로.



이것이 의미심장한 것은 인간 도하가 인공지능이 사고하는 방식 그대로 사고하고, 행동하며, 그러면서도 자신의 감정적 충동에 대한 현상적 의식을 갖고 있다는 점 때문이다. 우리가 만약 인공지능을 두려워해야 한다면, 그건 인공지능이 너무나 인간 같지 않아서가 아니라 인간 같아질까봐 두려워해야 하는 것이고, 바로 그 인공지능이 자기도 모르게 갖고 있는 우울증이나 편집증 같은 기질이 미세하게 영향을 끼치고 있는 상황에서, 우리가 그런 이웃을 두려워하듯 두려워해야 하리라는 점이다. 이는 곧 우리가 인공지능을 두려워하는 것이 아니라 우리와 비슷하면서도 우리 같지 않은 것, 우리 같지 않은 사람을 두려워하는 마음을 갖고 있다는 뜻이기도 하다. 인류의 적으로서 나타나는 인공지능들은 너무나 인간적이기 때문이다.



실제로 현대에 이렇게 인공지능이 유의미한 위력을 발휘하고 있는 시대에, 인공지능의 공포는 결코 인격적인 방식으로 드러나지 않는다. 우리가 모르는 사이에 제공한 정보가 우리를 알게 모르게 유도하여 뭔가, 영향 없이는 하지 않았을 구매 결정을 하도록 만들고, 원래라면 알지도 못했을 비주류 의견에 노출되게 만들고, 악의 없지만 두려운 메세지에 도배되게 만드는, 그런 애초에 의도라는 걸 찾아볼 수 없는 자연 그 자체의 공포다. 어떤 의미에서 인공지능은 우리가 정말로 인간에서 시작해 다시 자연으로 돌아가는 무언가를 만들어내고 있다는 생각이 들기도 한다. 신허무주의자들로 분류되는 이들의 공포스러운 탈인격적 자연 말이다.



저자는 이런 종류의 심리철학적 문제들을 작중에서 화두로 슬쩍 던져두고, 부록으로 붙여둔 "도보시오"에서 철학적 측면과 기술적 측면에서 분석한다. 철학적인 부분에는 관심이 없더라도, 챗GPT의 한계를 범주론으로 접근하는 에세이에 관심을 가질 사람은 많지 않을까? 어떻게 현재의 신경망 기반 학습이 계산주의가 전제하는 철저한 이분법의 문제에서 오히려 오답을 낼 수 밖에 없는 것 같은지에 대한 이야기나, 오버피팅이 일어나지 않는데도 과잉 학습에서 오히려 정확도가 떨어지는 현상 등에 대한 이야기는, 저자 본인이 말하듯 저널에 실릴 만한 전문성이야 당연히 없지만, 흥미롭게 읽어볼 만한 시각에서 <개의>가 보여주는 문제들을 파고든다. 



P. S. 저자의 다른 글 <마녀가 되는 주문>과 같은 세계관의 글이라고 하던데, 그래서 그런지 도하에게서도 이미 끝장나 모든 걸 끝내고 싶지만 그렇게 되지는 못하는 이 특유의 염세적인 기질이 녹아 있다.



P. S. S. 이것"도 보시오"