모두가 합의 할 수 있는 지능의 정의가 어렵지만,


생명 진화와 지능의 진화를 보면 지능의 최소 조건에 빠질 수 없는 것이 주체성이다



즉 지능을 가진 주체의 내부와 외부의 변화를 인지하고 과거의 기억/경험/학습으로부터 짧은 미래를 시뮬레이션해서 반응/행동을 관장하는게 지능의 최소 조건이다


여기서 지능이 생겨난 필요와 환경을 보면 말 그대로 물리적 세계의 분자 운동에서부터 최적값을 찾기 위해 시작 된 것


그리고 점점 스케일이 커져가며 거시적인 환경 변화와 움직임까지 통제하는 고등한 지능'도'(더 primary 한 지능의 형태가 도태된 것이 아니다. 현실에서는 기능이 단순하더라도 비용이 적은것이 답인 경우가 대부분이기 때문에 예쁜꼬마선충의 지능이 인간보다 낮다고 해서 도태되는 것이 전혀 아니지) 나오고 이제는 먼 미래를 예측하려 드는 지능, 지능 자체를 설계 하려는 지능까지 나오게 된 거지.


여기서 자연계에서 유일하게 성공한 형태의 지능은 지능에서 파생된 관념에서 출발한 지능이 아니라 현실의 물리법칙과 상호작용에서 번식과 죽음의 끊임없는 시험대에서 성공한 지능만이 살아남았다


그리고 현재 우리가 확실하게 아는 범위 내에서는 유일하게 가능하고 동작하는 형태의 지능이기도 하고.(외계문명, 외계 지적생명체 등이 있을 법은 한데 어쨌든 반세기 이상 현대적인 도구로 빡세게 시도했어도 단 한번도 관측에 성공하거나 확인 된 것은 아니니.)



그런데 LLM은 추상화 중의 추상화인 인간의 언어에서 세계를 역추론 해서 지능을 가지려는 접근 방식을 취하고 있는데(노렸다기 보단 거의 백년 가까운 인공지능에 대한 역사에서 유일하게 유의미하게 성공한 break through)


인간의 언어 자체가 불완전하고 물리적 현실을 제대로 반영하고 있지 못하다


토마스 아퀴나스가 바늘 끝에 천사가 몇명이나 올라 설 수 있는가를 진지하게 논했던게 불과 천년도 안됐지



이런 예는 수도 없이 많다



사실 우리 모두가 현실이라고 믿는 세계관과 글 쓰고 생각하는 것도 물리적 현실과의 연결고리는 전혀 없는 경우가 많지



팬시하고 블링블링한 도구의 영역을 넘어서 일반지능의 영역에 가려면 LLM으로는 절대로 도달 할 수 없다는 강한 확신이 있다