그것은 "인간과 같은 수준, 혹은 인간을 추월하는 정보처리능력을 보이느냐"의 여부를 갖고 얘기하는 거임


특히 공학자들이나 AI분야 entrepreneur들이 인공 '지능'을 얘기할 때는 반드시 그러함


AGI에 한정해서 보자면, 계획을 세우고 실행하는 능력, 이미 알고 있는 지식을 일반화 할 수 있는 능력(generality), 상식, 추론, 기억 등이 가장 전형적이라고 하겠음

더 나아가 좀 더 엄격한 사람은 창의성을 거론하는 사람들도 있고. 이런 요소들은 '지능'의 정의에 들어갈 수도 빠질 수도 있는 것이고 의견이 분분함


하지만 '마음'이나 '이해', '감정' 혹은 '자의식'의 구현과 '지능'과는 개념적으로 별개인 사항. 공학자들은 이런 것을 그 자체로 지능의 정의에 집어넣지 않음.


마빈 민스키의 인공 지능에 대한 정의가 지능을 퍼포먼스에 기준하여 정의하고 있고 이후에도 학계에서 인공지능은 이러한 방향으로 정의되어왔음


마음이니 감정이니 의식이니 하는 것은 결국 인간에 고유한 보상 체계의 일종으로 간주할 수 있고 그 감각질적인 성격은 지능 그 자체와는 무관하다 하겠음


이것은 특이점주의자이든 선형주의자이든 매한가지임

요슈아 벤지오나 얀 르쿤 같은 특이점 회의주의자들이 인간의 "마음" 혹은 "의식"을 구현하지 못해서 AGI의 구현이 힘들다고 얘기하는 경우가 있나 한 번 확인해봐


아무리 걔들이 남긴 트윗이나 인터뷰를 뒤져도 단 한 번도 입에 올리지 않는다는 것을 알 수 있음. AI가 인간과 같은 수준의 상식이나 추론, 기억능력을 구현할 수 있느냐 아니냐라는 얘기만을 줄창 하고 있을 뿐


실제로 AGI에 대해 최전선에 있는 주요 유명인사들이나 리서치 컴퍼니들의 주요한 입장을 대체로 정리해보자면


컴퓨팅 파워-데이터 셋-모델의 크기가 모두 커지면 아키텍쳐 개선 없이도 AGI의 구현이 가능하다(GPT-3와 같은 주요 대규모 foundation model들의 접근) vs 아키텍쳐의 개선과 규모의 확장이 모두 필요하다 (제프리 힌튼) vs 아키텍쳐의 근본적인 변화가 반드시 주문된다(벤지오, 얀 르쿤)


이렇게 입장이 갈리는 것일 뿐 회의주의자들이 AI가 인간의 자의식이나 이해를 구현하지 못하기 때문에 AGI의 출현이 요원하다 얘기하는 것이 아님을 쉬이 확인할 수 있음.


따라서 AGI의 출현이 불가능하다는 주장을 비호하기 위해 중국어 방 논변을 들고오는 것은 기본적으로 선형주의의 거두들과도 방향이 어긋나도 아주 크게 어긋난다고 할 수 있는데


학계의 주요 논점은 AI라는 것이 (설의 주요관심사였던) 신택스를 하느냐 시맨틱스(즉, 상징을 이해하고 활용)를 하느냐가 아니기 때문


다시말해 AGI를 조만간 구현할 수 있을까요? 라는 대답에 "그렇다"라는 답을 내놓는 사람이 반드시 존재론적으로 유물론적 입장을 취할 필요가 전혀 없다는 것


중국어 방 논변은 기본적으로 중국어로 질문을 했을 때 그럴듯하게 대답할 수 있는 시스템이 "어떤 과정"을 거쳐서 그러한 능력을 획득했느냐에 대한 사고 실험이고


그 "어떤 과정"이라는 것이 과연 인간의 "마음"과 등치시킬 수 있느냐 아니냐를 따지는 것이지


그 시스템이 중국어 구사 능력자체를 가질 수 있느냐 아니냐에 대한 사고실험이 아니기 때문


사실 중국어 방 사고실험은 중국어 구사 능력을 획득한 시스템의 존재를 가정하지 않으면 사고실험 자체가 이뤄질 수도 없기 때문에 수단적으로는 인간과 비견되는 중국어 구사 능력을 획득한 시스템의 존재(즉 AGI의 우화적인 대응물)를 반드시 가정하고 시작하는 사고실험임


애초에 왜 심신문제를 심신문제라고 하겠음, 이건 지능에 관한 얘기가 아니라 데카르트의 나는 생각한다 고로 존재한다 이후 서구 철학의 아주 고전적인 주제인 유심론자 vs 유물론자 vs 이원론자라는 해묵은 논쟁을 다시 현대적으로 다룬 사고실험임


그런데 왜 자꾸 마음이나 이해의 문제를 걸고 넘어지는 선형들이 있느냐를 생각을 해봤는데


1 일단 존 설이 처음 강인공지능과 약인공지능이라는 구분을 도입했을 때는 범용성(generality)을 기준으로 하는 AGI vs ANI의 구분이 아니라 인간과 같은 자의식을 갖고 있는 ai를 강인공지능이라고 분류 했고 아닌 인공지능은 전부 약인공지능으로 넣었기 때문. 설의 구분대로라면 아무리 생산성이 극에 달하는 AGI라도 의식이 없다면 약인공지능이 되는 것이고, 정신지체장애자의 지능마냥 컴피턴스가 떨어지고 실용적으로 쓸모없는 ai라도 본인의 존재를 자각하고 '마음'이라 부를 만한 것을 갖고만 있다면 강인공지능이라고 볼 수 있는 것. 설의 강인공지능 vs 약인공지능 정의를 현재 AI의 발전양상과 중장기적 목표를 반영하기 위해 90년대 말 ~ 2000년대에 도입된 AGI vs ANI 정의와 무차별적으로 등치시키는 사람들은 기본적으로 지능이라는 개념을 마음이라는 전통적인 형이상학적 주제와 착각하고 있어서 그런 우를 범한 것임


> 하지만 설의 강인공지능 정의는 기본적으로 설이 심리철학자로서 자신의 관심사(즉 심신문제)를 다루기 위해 도입한 것이지 현재의 우리 눈 앞에 실존하는 인공신경망 모델들을 발전 선상의 변곡점이 되는 퍼포먼스의 수준에 따라 분류하기에 적절한 정의라고 하기는 어렵거니와

가장 중요한 포인트는 위에서 언급했듯 설 또한 모든 분야에서 인간 자연지능의 생산성에 필적하거나 뛰어넘는 인공적인 체계가 구현불가능하다는 주장을 하려한 것이 아니라는 거임(애초에 그럴 의도도 없었음) 오히려 그런 체계가 실존한다고 가정했을 때 그 체계가 인간의 마음과 같은 것을 가지고 있느냐 없느냐 문제를 거론하기 위해 중국어 방 논변을 구사한 것임. 설의 관심사는 여기서 선형이랑 특이점주의자들 사이에서 거론되는 주요한 관심사(AGI가 도래해서 특이점을 직접예시 해줄 것이냐)와는 근본적으로 성격이 다른 것.


2 인공신경망을 다루거나 관심있어하는 대부분의 사람들은 동시에 유물론자이기도 하기 때문. 즉 인간의 마음이라는 것은 기본적으로 물리적인 시스템의 부수현상이라는 형이상학적인 입장을 딥러닝 분야에 종사하는 사람들이 혹은 과학분야 기자들이나 대중들이 대개 의식적으로는 아니더라도 부지불식간에라도 취하고 있는 경우가 많음 아니 꼭 인공신경망 분야에 관심이 없더라도 대개 형이상학을 접하지 않는 많은 대중들은 시대와 지역을 초월해 아주 소박한 형태의 유물론적 입장을 가지고 있는 경우가 대다수임

> 이런 경우 AI라는 것이 어느 정도의 수준에 도달하면(즉 지능이 고도화되면) 더불어 마음이나 자의식 이에 부수하여, 인과적으로 나타나게 되어있다고 생각하게 되곤 하는데 이렇게 보면 심신문제에서 상식적인 관점은 대개 물리주의적인 입장이라고 볼 수 있겠지 하지만 이 사람들이 마음이나 의식에 대해서 어떤생각을 갖고 있건 간에 "지능"이라는 것은 근본적으로 관측가능하고 재현가능한 "기능"을 기준으로 정의되는 것이기 때문에 마음에 대한 논의와 지능에 대한 논의는 엄밀히 분리해야하는 것임