스포일러 경고 기능이 추가됐습니다.
(펼침 메뉴 > 설정에서 변경 가능)


24b0d121e09c28a8699fe8b115ef046c65f82a4d9b


마음과 의식에 대한 문제는 늘 흥미로운 주제다. 관련해서 여러 교양서를 읽어보긴 했는데, 아무래도 현재로서는 다니얼 데닛 등이 주장하는 계산 기계(컴퓨터)로서의 의식이 가장 그럴듯한 설명인 것 같다. 이제 와서 이원론을 수용하기란 참 힘들고, 그렇다고 부수현상론이나 신비주의적인 접근을 택하기도 힘들다. (개인적으로는 예전에 로저 펜로스의 <황제의 새 마음>을 읽고 후자 쪽에 좀 치우쳐 있었던 감이 있지만, 아무래도 낡은 감이 없잖게 있다.) 다만 계산 기계로서의 의식이 정말로 우리의 의식을 완전히 설명해줄 수 있는 것 같느냐, 하면 그것도 참 애매하다. 여전히 우리는 이 기계가 어떻게 자신을 의식하느냐를 따지기가 참 힘들기 때문이다.


이런 점에서 너무 자주 들먹여져 이제는 신물이 나는 “중국어 방” 문제를 굳이 다시 설명하지는 않겠다. <마인드>는 그 중국어 방 문제를 제시한 존 R. 설이 쓴 심리철학 개론서로, 심리철학의 기본 전제와 여러 문제 및 주제들을 대략적으로 소개하되, 자신의 주장으로 이를 반박하거나 설명하는 식으로 구성되어 있다. 위에서 언급한 의식에 대한 가설들도 그런 식으로 소개되었는데, 데카르트에서부터 짚어나가며 어떻게 이원론에서 시작되는 심리철학이 이를 반박하거나 변형하거나, 또는 여기에서 벗어나는지를 설명한다. 일종의 계산 기계인 강인공지능을 통해 의식을 재건하려는 시도가 현재 유물론적 접근의 최전선에 있으며 실제로 많은 의식적 현상들이 컴퓨터의 비유를 통해 설명 가능하다.


다만 다시 우리의 자의식에 대해서 생각해보면, 이 비유는 여전히 문제와 마주친다. 설은 중국어 방, 혹은 이것을 더욱 추상화시켜 우리 머릿속에 기억하고 있는 중국어 구문론 구현 기기를 제시하며, 여전히 ‘나’는 이 시스템 속에서 중국어의 의미를 전혀 이해할 수 없다고 주장한다. 의미의 부재와 마찬가지로 의식 속에서 우리가 자연스럽게 느끼는 행동의 주체성, 지향적인 태도, 그 밖의 감정 및 기분들-소위 현상적 의식-을 계산 기계는 재현하거나 느낄 수 없다. 비록 현재 대형 언어 모델들이 사람의 언어 구사 능력과 흡사한 결과를 내며 소통을 하는 것처럼 보이더래도 이것이 책이나 지도에서 의미를 읽어내는 파생된 지향성과 정말로 다르냐는 질문이 여전히 나온다.


https://softwarecrisis.dev/letters/llmentalist/

The LLMentalist Effect: how chat-based Large Language Models rep…The new era of tech seems to be built on superstitious behavioursoftwarecrisis.dev


LLM이 RLHF(인간 피드백 강화 학습)를 통해 ‘인간성’을 보여주는 것을 심령술사의 콜드 리딩과 함께 분석하는 글로, 실제로 대화 봇이나 심리상담 AI는 그 전부터 훨씬 낮은 성능에도 충분한 효과를 이끌어내곤 했다.


개인적으로 나는 이것이 어떤 보편 지능과 인간 의식 사이의 차이점을 보여주게 될지도 모르겠다는 생각을 하고 있다. 아무리 구설수-특히, 사실은 동일 역량의 인력에 비해 월등히 비싸 진정으로 인력을 대체할 수는 없겠지만 그럼에도 실제 인력에게 대체의 압박을 주곤 하는 가장된 효율성-가 많아도 LLM의 성능은 사실상 구문론 이상의 의미론을 반영한 언어를 생성하고 있으며, 언어적 이해를 바탕으로 다양한 업무를 시켜보고자 시도하는 여러 기획들이 (물론, 모두는 아니지만) 나름대로의 성과를 내고 있다. 이 길의 끝에 있는 것은 언어를 바탕으로 한 지능의 기본 골자일지도 모른다. 그러나 이렇게 형성된 지능적인 통합체는 그럼에도 현상적 의식, 자의식을 전혀 갖지 못할 듯하다. 호프스태터가 <괴델, 에셔, 바흐>에서 제시한 자기 참조로서의 자의식의 고리는 여기에서는 그리 도움이 되지 않는 것 같다. (메타 언어나 여타 메타적인 요소를 포함하는 연구는 시원찮은 반응만 보인다.)


그런 점에서 내가 데닛의 의식에 대한 이론에 동의하는 것과는 별개로, 그것이 꼭 인간의 의식을 위한 이론은 아니겠다는 생각이 든다. 이 점에서는 설의 접근이 좀 더 보수적이고, 흥미롭다. 컴퓨터 상에서의 가상 환경으로서의 의식은 설의 자연주의와 공존 가능하면서, 그 이상의 설명을 요구하는 듯하다. 지향성에 대한 추론을 바탕으로 하는 다양한 설명들은 사실 컴퓨터 과학의 그것과도 겹치는 영역이 많으며, 굳이 딥러닝의 영역으로 들어가지 않더라도 우리는 자유의지와 무의식에 대한 설의 설명을 능숙하게 컴퓨터의 그것으로 비유해 적용시킬 수 있다. 과연 이 의식장에서 무엇이 ‘나’를 생각하느냐는 전혀 다른 문제겠지만. 우리의 의식은 솔직히, 삶을 굳이 힘겹게 만드는 영역들에서 컴퓨터의 의식에 겹쳐지지 않는 것만 같다. 최근 읽은 <인간종에 대한 음모>나 <블라인드 사이트>가 역설하는 의식의 저주가 떠오르는 지점이다.


별개로, 사실 우리의 컴퓨터 및 프로그램에 대한 이해조차 아직 그리 성숙한 편도 아니다. 구문론적 접근을 완전히 무시해 아무리 전산화되어 있더래도 여전히 출력물과 그 과정을 이해할 수 없는 현재의 인공지능 트렌드를 보라. 컴퓨터에 대한 비유 및 연구가 의식 문제를 좀 더 단순화시킬 수는 있어도 해결 가능한 수준으로 환원시키는 것은 또 아니라는 점을 생각하자. (사실 바로 이 점이 LLM의 현상적 의식의 존재성을 질문하게 만드는지도 모른다 - 제작자들이 아무리 그런 것이 없으리라 단언하는 것과는 별개로.) 결국 이러한 접근과는 별개로 우리는 여전히 우리의 뇌를 헤집어봐야 할 테다. 비교적 최근 나온 번역서 중에서는 스타니슬라스 데하네의 <뇌의식의 탄생>이 가장 충실하게 최근까지의 인지과학의 실험 및 성과들을 잘 정리해놓은 듯해서, 기회가 되면 이 책을 읽어보려고 한다.