1.현재 AI는 말과 추론은 매우 잘하지만, 사람처럼 기억을 축적하고 학습을 이어가는 지능 구조는 아직 완성되지 않았다.

2.멀티턴 대화는 짧은 범위에서는 가능하지만, 긴 대화 속에서 중요한 내용을 자동으로 장기기억으로 만들고 재사용하는 능력은 아직 없다.

3.장기기억, 지속학습, 상식, 일반화, 환각 문제는 각각 따로 해결될 수 있는 문제가 아니라 서로 깊게 얽혀 있다.

4.그래서 하나씩 기능을 추가하는 방식으로는 한계가 있고, 구조적인 돌파가 필요하다.

5.연구자들은 이 문제가 어디에 있는지는 비교적 명확히 인식하고 있지만, 확실한 해결 방법에는 아직 합의가 없다.

6.CTM(연속적 사고 기계) 같은 새로운 시도들은 사람 사고와 비슷한 ‘조짐’을 보여주지만, 아직 범용 언어 모델의 해법은 아니다.

7.단기적으로는 AI가 덜 헷갈리고 덜 환각하는 방향으로 개선되겠지만, 사람 수준의 장기기억과 지속학습은 중·장기 과제다.

8.따라서 “AGI가 곧 온다”는 말은 마케팅에 가깝고, 연구 현실은 훨씬 더 신중하다.








구조적 돌파가 필요한 시점

제파 와 월드 모델 또한 이것을 구조적으로 풀어보려는 "시도"

월드 모델이 성공해도 앞으로 남은 다양한 과제들


문제 1: 어떤 세계를 모델링할 건가?

현실 세계는 모호함,주관,사회적 규범,가치 판단 등 정답 상태(state)가 존재하지 않음

올바른 세계 모델”의 기준이 애매함


문제 2: 언어·의도·가치의 문제

월드 모델은: 상태 변화에는 강함

하지만: “왜 그렇게 말했는가”,“의도가 무엇인가”,“이게 바람직한가”

지능 ≠ 행동의 정당성


문제 3: 목표와 정렬(Alignment)

더 똑똑해질수록: 목표를 더 효율적으로 달성

하지만: 그 목표가 누가 정했는지 인간과 항상 같은지는 별개


문제 4: 해석 가능성 

내부 상태가: 고차원 연속적 압축된 잠재 공간

“왜 이런 결론이 나왔는지” 설명하기 더 어려워질 수도 있음








결승점이 아니라 이제 시작이라는 뜻



THE 카파시 (인공지능 최고 개발자) : AGI 까지 기술이 성숙하는데 10년이 더 필요하다....


카파시는 “현재 LLM·에이전트는 인상적이지만,
지속학습·장기기억·상식·일반화가 결여된 미완성 지능”이라는 점을 분명히 인식하고 있다.


  1. 에이전트는 아직 ‘직원처럼’ 쓸 수 없다
    → 멀티모달, 컴퓨터 사용, 지속학습, 기억 전부 부족하다고 직접 말함.

연속학습(continual learning)은 아직 없다
→ “무언가를 알려줘도 기억하지 못한다”고 명시적으로 지적.

컨텍스트 = 작업 기억, 가중치 = 희미한 장기기억
→ 지금 모델은 ‘세션 내 단기기억’만 강하고,
경험이 가중치로 증류되는 메커니즘이 없다고 설명.

지속학습이 ‘자연히 출현할 것’이라는 낙관론에 회의적
→ 인간은 수면 중 경험을 통합·증류하지만,
LLM에는 그런 루프가 없다고 분명히 말함.

AGI 타임라인을 ‘10년’으로 본 이유
→ 불가능하다고 보진 않지만,
구조적·인지적 결손이 너무 많아 단기간 해결은 비현실적이라고 판단.

트랜스포머는 ‘대뇌피질’에 해당할 뿐
→ 해마(기억), 편도체(감정/가치), 기타 인지 핵심 구조는 아직 비어 있다고 비유.

지금의 접근은 ‘동물을 만드는 것’이 아니라 ‘디지털 지능’을 만드는 것
→ 생물학을 그대로 모사할 수 없다는 점도 명확히 인식.






안드레이 카르파시 (Andrej Karpathy)

실제로 작동하게 만드는 것이 문제입니다. 우리가 에이전트에 대해 이야기할 때, 연구소들이나 저 자신도 생각하는 것은 사실상 직원이나 인턴처럼 여러분과 함께 일할 수 있는 존재입니다. 예를 들어 이곳에도 함께 일하는 직원들이 있잖아요? 그런 일을 클로드나 코덱스 같은 에이전트가 대신해줄 수 있다면 어떨까요?

물론 지금은 불가능하죠. 그렇다면 그렇게 될 수 있으려면 무엇이 필요할까요? 왜 지금 당장 그렇게 하지 못할까요? 바로 그 이유는, 현재의 에이전트가 제대로 작동하지 않기 때문입니다. 지능이 부족하고, 멀티모달 능력도 부족하고, 컴퓨터 사용과 같은 여러 가지 작업을 할 수도 없습니다.

그리고 조금 전에 언급하신 것처럼, 연속 학습(continual learning) 능력도 없습니다.

간단히 무언가를 알려줘도 그것을 기억하지 못하죠. 인지적으로 부족한 부분들이 많기 때문에 아직 제대로 작동하지 않습니다.

이러한 모든 문제를 해결하는 데는 대략 10년 정도가 걸릴 거라고 봅니다.