인간 마냥 새로운 걸 학습해서 해결하는 법을 전혀 모르잖아.
결국 그냥 인간이 손수 일일이 레이블링한 수많은 데이터로 달달 외운 자료 한정해서 매우 고도화된 합성 능력을 보여주는 거지, agi의 형태와는 거리가 멀다고 봄.

말은 존나 잘하고 코딩도 존나 잘하는데 사전 훈련되지 않은 형태의 과제를 수행하는 꼴을 보셈. 저게 어케 사람이냐. 앵무새나 까마귀도 저것보단 더 잘할 것 같음.
여태 많은 갤러들이 "llm은 추론만 해결하면 agi는 따 놓은 당상이다" 라고 믿어왔고 o1이 그 추론의 포문을 열면서 llm이 역시 정답이라고 생각했겠지만, 이것은 우리가 인간의 관점에서 생각하는 추론, 즉 범용 지능으로부터 비롯된 추론과는 거리가 매우 멀다고 봄.

인간이 실제 llm 수준의 언어적, 수학적 추론 지능을 가지고 있었다면 포켓몬 게임 플레이 따위의 과제는 정말 아무렇지 않게 했을 거임.

현재의 상황을 볼 때, 결국 llm은 범용 인공 지능, 인공 일반 지능(agi) 라기보단 그저 특정 분야에 한정해서 특화되어 있는 매우 협소한 지능이라고 보는 게 맞다고 봄. 이것자체로도 정말 많은 도움을 주지만, llm에 돈 때려박는다고 마법처럼 agi가 나올 거라는 기대는 글쎄..
얀르쿤 말처럼 아키텍쳐 극복 없이는 llm은 지금처럼 추론 벤치딸이나 치는 신세를 면하지 못하리라 생각함.

지금도 많은 갤러들은 "대충 어느정도 수준에만 이르면 지능이 폭발해서 agi 달성할 거임" 라고 생각하고 있겠지만 진지하게 고찰해보셈.
지금의 놀라운 추론 수준을 가지고도 새로운 형태의 과제 수행 능력이 이토록 처참한 수준인데, 이 방향으로 계속 나아간다고 해서 우리가 막연히 기대하는 그 지수적 발전이 이루어질 수 있을까?
애초 그 가설이 들어맞기 위해선 이미 '범용 지능'의 관점에서 유의미한 수준의 진보가 관찰 되어야하는데, 그럴 기미조차 보이지 않는 것 같음.
감히 예상컨대 GPT-4.5도 기본 베이스가 다르지 않은 이상, 벤치딸 그 이상의 무언가를 보여주진 못하리라 생각함.

o1이 나오면서 얀르큔이 틀렸다고 생각했지만, 역설적으로 추론 모델은 얀르쿤의 옳음을 증명했다고 보는 게 맞는듯.

- dc official App