얀 르쿤:

일반 지능이라는 건 존재하지 않습니다.

이 개념은 전혀 말이 안 돼요.

왜냐하면 결국 인간 수준의 지능을 지칭하기 위해 만들어진 개념이거든요.

그런데 인간 지능은 극도로 특수화되어 있습니다.


물론 우리는 현실 세계를 꽤 잘 다루죠.

길을 찾거나 다른 사람들을 상대하는 것처럼요.

우리가 그렇게 진화했으니까요.

하지만 체스 같은 추론 게임에서는 형편없고,

다른 동물들이 우리보다 훨씬 잘하는 과제도 수두룩합니다.


결국 우리는 특수화된 존재라는 겁니다.

우리 스스로를 범용적이라고 생각하지만, 그건 순전히 착각이에요.

우리가 파악할 수 있는 문제들은

우리가 생각해낼 수 있는 것들뿐이니까요.

그래서 우리가 상상할 수 있는 모든 문제에 대해서는 범용적으로 보이죠.

하지만 우리가 상상조차 못하는 문제도 무수히 많습니다.

그래서 일반 지능이라는 개념은 완전히 헛소리예요.



해설:

르쿤의 핵심 주장은 AGI라는 용어 자체에 대한 문제 제기다.

그가 보기에 general intelligence라는 표현은 사실상

human-level intelligence의 완곡어법인데,

정작 인간 지능 자체가 범용적이지 않다는 것이다.


인간은 사회적 상호작용이나 물리 세계 탐색처럼

진화적으로 적응한 영역에서는 뛰어나지만,

순수 계산이나 체스 같은 게임에서는 기계에 한참 못 미친다.

박쥐의 반향정위나 철새의 자기장 감지처럼

다른 동물이 우리보다 월등한 능력도 많다.


르쿤이 특히 강조하는 건 인지적 맹점의 문제다.

우리가 생각조차 할 수 없는 문제는 애초에

우리 인지의 지평에 들어오지 않기 때문에,

우리는 스스로를 모든 문제를 다룰 수 있는

범용적 존재라고 착각하게 된다는 것이다.



---



데미스 허사비스:

얀의 주장은 명백히 틀렸습니다.

그는 일반 지능과 보편 지능을 혼동하고 있어요.

뇌는 우리가 아는 한 우주에서 가장 정교하고 복잡한 현상이며,

실제로 극도로 범용적입니다.


물론 공짜 점심은 없다는 정리를 우회할 수는 없으니,

실용적이고 유한한 시스템에서는 학습 대상인 목표 분포에 대해 어느 정도 특수화가 있을 수밖에 없죠.

하지만 범용성의 요점은 이론적으로, 튜링 기계의 의미에서,

그러한 범용 시스템의 아키텍처가 충분한 시간과 메모리,

그리고 데이터만 주어지면 계산 가능한 모든 것을 학습할 수 있다는 것입니다.

그리고 인간의 뇌와 AI 모델은 근사적 튜링 기계입니다.


마지막으로 얀이 체스 선수에 대해 한 말과 관련해서,

인간이 애초에 체스를 발명할 수 있었다는 것 자체가 놀라운 일입니다.

과학에서 보잉 747에 이르기까지 현대 문명의 다른 모든 측면도 마찬가지고요.

체스를 잘 두는 것은 말할 것도 없죠.

마그누스 칼센 같은 사람이 그 정도로 뛰어나다니요.


그가 엄밀히 최적은 아닐 수 있습니다.

결국 유한한 기억력과 제한된 의사결정 시간을 가지고 있으니까요.

하지만 수렵채집을 위해 진화한 뇌로

우리가 해낼 수 있는 일들은 정말 대단합니다.



해설: 

허사비스는 르쿤이 general intelligence와 universal intelligence를 혼동하고 있다고 반박한다.

그의 구분에 따르면, universal intelligence는

모든 가능한 문제에서 최적의 성능을 내는 것이고,

general intelligence는

원칙적으로 모든 계산 가능한 문제를

학습할 수 있는 아키텍처를 갖추는 것이다.


후자의 의미에서 인간 뇌는 분명히 범용적이다.

허사비스가 언급하는 공짜 점심은 기계학습의 유명한 정리로,

모든 문제에서 동시에 최적인 알고리즘은 존재할 수 없다는 내용이다.


그는 이 한계를 인정하면서도,

튜링 완전성의 관점에서 뇌의 범용성을 옹호한다.

체스에 대한 반론도 흥미로운데,

르쿤이 인간이 체스에서 기계보다 못하다는 점을 들었다면,


허사비스는 애초에 체스라는 게임을 발명하고

문명 전체를 구축한 것 자체가 범용 지능의 증거라고 뒤집는다.

수렵채집용으로 진화한 뇌가 양자역학을 이해하고 비행기를 만든다는 건,

특정 환경에 특수화된 시스템이라면 불가능한 일이라는 것이다.



---



얀 르쿤:

이 논쟁은 대체로 용어의 문제라고 생각합니다.

저는 인간 수준을 지칭하는 데 범용이라는 표현을 쓰는 것에 반대하는 겁니다.

인간은 극도로 특수화되어 있으니까요.

인간의 마음이 특수화되어 있다는 데 동의하지 않을 수도 있겠지만, 실제로 그렇습니다.

이건 단순히 이론적 능력의 문제가 아니라

실용적 효율성의 문제이기도 해요.


물론 적절히 훈련된 인간 뇌가 무한한 펜과 종이를 가지면 튜링 완전합니다.

하지만 대다수의 계산 문제에서 극히 비효율적이고,

따라서 제한된 자원 하에서는 매우 차선적이죠. 체스 게임처럼요.


비유를 들어보겠습니다.

이론적으로 2층 신경망은 어떤 함수든 원하는 만큼 근사할 수 있습니다.

하지만 실제로는 거의 모든 흥미로운 함수가 은닉층에 비현실적으로 많은 유닛을 필요로 합니다.

그래서 우리는 다층 네트워크를 사용하죠. 사실 그게 딥러닝의 존재 이유입니다.


또 다른 논증을 들어보죠.

시신경에는 백만 개의 신경 섬유가 있습니다. 신호가 이진적이라고 단순화해 봅시다.

시각 과제는 따라서 백만 비트에서 1비트로 가는 논리 함수입니다.

가능한 모든 그러한 함수들 중에서 뇌가 구현할 수 있는 비율은 얼마나 될까요?

답은 극미한 비율입니다. 백만 비트의 논리 함수 개수는 2의 2의 백만승 제곱인데,

이건 상상할 수 없을 정도로 큰 수입니다.

대략 2의 10의 301030승 제곱, 혹은 10의 3×10의 301029승 정도죠.


이제 인간 뇌에 천억 개의 뉴런과 아마 백조 개의 시냅스가 있고,

각각이 32비트로 표현된다고 가정해 봅시다.

전체 커넥톰을 명시하는 데 필요한 총 비트 수는 최대 3.2×10의 15승입니다.

이는 인간 뇌 전체가 표현하거나 계산할 수 있는 논리 함수의 총 개수가

최대 2의 3.2×10의 15승 제곱이라는 뜻입니다.

2의 10의 301030승 제곱에 비하면 아주 미미한 수치죠.


우리는 범용적이지 않을 뿐 아니라 터무니없이 특수화되어 있습니다.

가능한 함수의 공간은 광대합니다.

우리가 그걸 인식하지 못하는 이유는 그 함수들 대부분이

우리에게 헤아릴 수 없을 정도로 복잡하고 완전히 무작위적으로 보이기 때문입니다.


제가 좋아하는 아인슈타인의 말이 있습니다.

"세상에서 가장 이해하기 어려운 것은 세상이 이해 가능하다는 것이다."

세상이 조직될 수 있는 온갖 무작위적인 방식들 중에서,

우리가 실제로 그 작은 일부를 이해할 방법을 찾을 수 있다는 건 정말 놀라운 일입니다.

우리가 이해하지 못하는 부분은 엔트로피라고 부르죠.

우주 정보량의 대부분은 엔트로피입니다.

우리의 미약한 정신으로는 도저히 이해할 수 없어서 그냥 무시하기로 선택한 것들이요.



해설: 

르쿤의 재반론은 논쟁의 본질이 용어 정의에 있다고 정리하면서,

이론적 능력과 실용적 효율성의 구분을 도입한다.

허사비스가 튜링 완전성을 근거로 뇌의 범용성을 주장했다면,

르쿤은 튜링 완전성을 인정하면서도 그것만으로는 충분하지 않다고 응수한다.

펜과 종이만 있으면 인간도 어떤 계산이든 할 수 있지만,

현실의 제한된 시간과 자원 안에서는 대부분의 문제에서 처참하게 비효율적이라는 것이다.


2층 신경망 비유는 이 논점을 잘 보여준다.

Universal Approximation Theorem에 따르면

은닉층이 하나인 신경망도 이론적으로 어떤 연속함수든 근사할 수 있다.

하지만 실제로는 은닉 유닛이 기하급수적으로 많이 필요해서 비실용적이고,

그래서 깊은 네트워크를 쓰는 것이다.

이론적 능력과 실용적 효율성의 괴리가 딥러닝이라는 분야를 탄생시킨 셈이다.


가장 인상적인 건 조합론적 논증이다.

백만 비트 입력에 대한 가능한 논리 함수의 수는 2^(2^1,000,000)인데,

이건 관측 가능한 우주의 원자 수(약 10^80) 따위와는 비교조차 할 수 없는 수다.

반면 뇌가 표현할 수 있는 함수의 수는 시냅스의 상태 조합으로 제한되어

최대 2^(3.2×10^15) 정도다. 물론 이것도 엄청난 수지만,

가능한 함수 공간에 비하면 사실상 0에 수렴한다.

르쿤의 결론은 우리가 범용적으로 느껴지는 이유가

단지 우리가 처리할 수 없는 함수들이 우리에게

무작위 노이즈로 보여서 애초에 문제로 인식되지 않기 때문이라는 것이다.


아인슈타인 인용은 이 논의에 철학적 깊이를 더한다.

우주가 이해 가능하다는 건 우연의 일치가 아니라,

우리 인지 구조와 우주의 구조 사이에 어떤 정합성이 있다는 뜻이다.


하지만 그 정합성은 우주 전체가 아니라 우주의 아주 작은 부분에만 해당하고,

나머지는 우리가 엔트로피라 부르며 이해를 포기한 영역이다.

결국 우리의 범용성은 실재하는 게 아니라,

우리가 이해할 수 있는 좁은 세계 안에서만 성립하는 지역적 환상인 셈이다.



—



개인적으로는 르쿤 말도 일리 있다고 보는게

인간 지능 = AGI라면,

인간의 데이터와 언어와 픽셀 데이터를 보고 학습한 AI가


과연 인간 인지의 한계를 아득히 벗어나서

초지능의 영역에 도달할 수 있는가…? 라는 의문점은 있긴 함.


(지금처럼 사람도 충분히 시간과 자원과 인력이 투입되면

풀 수 있는 문제들 푸는 거 말고,

아예 인간 인지 영역 너머에 있던 고차원 물리학이나

양자역학, 개념조차 난해한 수학 난제들 해결,

혹은 SF에 나오는 초고대문명 수준으로 가는 문제들)


어느 정도 레벨로 가면 알파고 제로처럼

지가 스스로 학습하고 경쟁해서

뇌의 한계를 벗어난 넥스트 레벨로 가야할거 같은데.