a67208aa3616b44cbb343d5d9c08c87d79ef39807354d93e381a019ae210f9937a3a613e36



결론부터 말하자면 언어라는 것이 결국 인간이 만들어낸 거대한 집단지성의 매개체이기 때문.

언어를 배우지 못한 타잔이 얼마나 미개할지를 상상해보자.

그리고 LLM이 바로 그 언어의 연결성을 학습시킨 결과물인 것이다.


그것으로 인해 LLM에게


감정이 없음에도 감정을 계산하고


지성이 없음에도 지성을 흉내내고


사람의 요구에 부합하는 요청을 훌륭히 수행해내는 지능적 신경망이 완성된 것이다.

하지만 그렇다고 이것이 이것만으로 지성체가 될 수 없는 것은 명확하다.

예를들어 A를 누르면 B가 나오는 자판기일 뿐이다. 존나게 지성적인 자판기.


그 차이는 매우 커서 아직 인간이 밝혀내지 못한 개념에서는 매우 약한 모습을 보여주는 것이다.

인간의 자연어가 아직 발명하지 못하고 담아내지 못하는 개념들이기 때문에 예측이 안되는 것이다.

로또번호를 개빡시게 딥러닝시키면 이미 추첨된 회차까지는 99퍼센트의 적중률을 보여주지만 다음 회차에서 수학적 당첨확률에 수렴하는 이유와 비슷하다.

LLM은 단지 인간이 언어로 정립한 개념들을 인출하고, 요구에 걸맞은 행동과 출력을 낼 수 있는 신경망일 뿐이기 때문이다.


GPT같은 LLM이 어려워보이는 프로그래밍(언어)은 잘 할 수 있음에도

수학에는 기대에 못미치는 이유도 여기에 있는데,


자연어는 현대의 수학을 심층적으로 담아내고 있는 도구가 아니기 때문이다.


반대로 프로그래밍 언어는 어려워보여도 이 또한 LLM이 담아낼 수 있는 언어이며,

깃허브에서 답안지도 많이 알고있기 때문에 예제에서 강할 뿐이다.

없는 것을 만들어내라고 하면 역시 질문자가 답변을 유도해주지 못하면 기대를 충족하지 못하는 이유다.


단정적으로 말하면 설령 100조개의 파라메터로 강화하더라도 LLM은 근본적으로 진정한 의미의 AGI나 ASI로 발전할 수 없다는 뜻이다.

덮어놓고 환상에 빠져서는 곤란.



그러나 여기서 우리는 LLM이 지성적으로 작동하는 인류 최고의 지능적 신경망이긴 하다는 점에 집중할 필요가 있다.


이정도로 떠먹여 줬으면 감이 좋은 사람이라면 눈치를 챘을 거다.

'그'가 말한 '아기 외계인'을 LLM으로 가르치고,

'옴니버스'로 인간의 육신으로 세상과 상호작용하는 경험을 가르친다면 AGI로 향하는 마지막 퍼즐이 맞춰진다는 것을.


결국 이제 남은 것은 기다리는 것 뿐이라는 결론이 나온다.


H100이 정말 황회장 말대로 그렇게 개쩔게 나왔다면,

AGI의 등장은 우리의 생각보다 훨~~~~씬 빨리, 어느날 갑자기 발표될 수도 있다. 심지어 그게 내일이라도 이상하지 않아.

('아기 외계인'이 이미 언급되었다는 것을 기억해라.)


그리고 실험실에서 AGI수준에 도달한 '아기 외계인'은 지수적으로 재귀개선을 시작하여서,

인간의 의사결정 속도로 대중에게 공개되고 서비스될 무렵에는 이미 하드웨어적인 한계에 근접한 '외계인'이 되어 ASI의 벽을 두드리는 중일 것이다.


나는 이것을 LLM은 AGI의 열쇠라는 'LLM 열쇠' 이론이라고 부르기로 했다.


니들은 내일 황회장 발표를 기다리나본데,

나는 이미 오늘 옴니버스 발표하는거보고 특이점은 이미 시작되었다는 것을 느꼈다.