[🏆베스트] AGI는 세계를 이해해야만 한다: 구글 딥마인드의 수학적 증명

[초존도초(htr3c654r6ft)]

AGI는 세계를 이해해야만 한다:
구글 딥마인드의 수학적 증명

"다양한 목표 달성 능력 = 환경 예측 모델 보유" 수학적으로 입증
모델-프리 AI의 근본적 한계 드러나

만약 로봇이 "부엌에서 설거지를 하고 충전소로 돌아오기"라는 임무를 수행할 수 있다면, 그 로봇은 이미 집의 구조를 알고 있는 것이다.

2025년 6월 2일, 구글 딥마인드의 조너선 리첸스(Jonathan Richens), 데이비드 아벨(David Abel), 알렉시스 벨로(Alexis Bellot), 톰 에버릿(Tom Everitt) 연구팀이 이 직관적 사실을 수학적 정리로 증명했다.

왜 이 연구가 중요한가?

현재 AI 업계는 ChatGPT의 성공에 고무되어
"세계 모델 없이도 일반 지능이 가능하다"고 믿고 있다.

하지만 이 연구는 그것이 수학적으로 불가능함을 증명했다.

어떤 형태로든 세계 모델 학습은 필수다.

+ AI 연구의 세 축. 계획은 세계 모델+목표→정책, 역강화학습은 정책+세계모델→목표.
이번 연구는 정책+목표→세계모델이 가능함을 증명했다.

핵심 정리: 능력이 곧 이해다

연구팀의 증명(Theorem 1)은 놀랍도록 직관적이다. AI가 다양한 목표를 일정 수준 이상 달성할 수 있다면, 그 AI의 행동만 관찰해도 환경의 구조를 역산할 수 있다.

|추정 전이확률 - 실제 전이확률| ≤ √(2P(1-P)/((n-1)(1-δ)))
여기서 P는 실제 전이확률, n은 목표 깊이, δ는 실패율

핵심 의미: AI가 더 유능해질수록(δ→0), 더 복잡한 목표를 달성할수록(n 증가), 그 AI가 가진 세계 모델이 더 정확해진다.

증명의 묘수: 선택이 지식을 드러낸다

증명의 핵심은 교묘하다. AI에게 "A 또는 B" 형태의 선택을 제시한다:

목표 A
동전을 n번 던져
앞면이 k번 이하 나오기

목표 B
동전을 n번 던져
앞면이 k번 초과 나오기

만약 AI가 동전의 확률을 안다면, 어느 목표가 더 쉬운지 계산할 수 있다. k를 0부터 n까지 바꿔가며 AI의 선택이 바뀌는 지점을 찾으면, 그것이 바로 이항분포의 중앙값(median) 근처이며, 이로부터 AI가 추정하는 확률을 역산할 수 있다.

+ 실험 결과. AI가 더 복잡한 목표를 달성할수록(x축) 추출된 세계 모델의 오차(y축)가 감소한다.
이론적 예측(O(n^-1/2))과 정확히 일치한다.

예외: 한 수만 보는 AI는 자유롭다

흥미롭게도 한 단계 앞만 보는 '근시안적 AI'는 세계 모델 없이도 최적일 수 있다(Theorem 2). 마치 개미가 페로몬만 따라가도 먹이를 찾듯이, 즉각적 반응만 필요한 경우에는 복잡한 내부 모델이 불필요하다.

하지만 여러 단계의 계획이 필요한 순간 - "부엌에 가서 설거지하고 돌아오기"처럼 - 세계 모델은 필수가 된다. 이는 1991년 로드니 브룩스가 주장한 "표상 없는 지능"이 부분적으로만 옳았음을 의미한다.

창발적 능력의 비밀: 암묵적 세계 모델

GPT 같은 대규모 언어모델도 암묵적으로 세계 모델을 학습한다. 물리 법칙을 설명하고 논리적 추론을 할 수 있는 이유다. 논문은 이것이 언어모델의 '창발적 능력'을 설명할 수 있다고 제안한다.

핵심 통찰
진짜 한계는 세계 자체의 복잡성에 있다. 날씨 예측이 어려운 것처럼, 현실 세계의 개방성과 불확실성은 완벽한 모델링을 불가능하게 만든다. 인간조차도 완벽한 세계 모델을 갖지 못한다.

더 놀라운 것은 에이전트가 모든 가능한 목표를 달성할 필요가 없다는 점이다. 증명에 따르면 특정한 n개의 목표만 달성할 수 있어도 전체 환경 구조를 학습하게 된다. 이는 언어모델이 텍스트 예측이라는 제한된 목표만으로도 광범위한 세계 지식을 획득할 수 있음을 시사한다.

AI 안전성: 양날의 검

희망
강력한 AI일수록 더 정확한 세계 모델을 가지므로, 그들의 '이해'를 들여다볼 수 있다. AI의 행동만 관찰해도 내부 지식을 추출할 수 있다.

우려
보상 해킹이나 기만이 가능한 AI는 이미 우리와 환경에 대한 정교한 모델을 갖고 있을 것이다. 위험한 AI일수록 세계를 깊이 이해하고 있다.

진화의 필연: 왜 우리는 생각하는가

이 연구는 인간 지능의 진화에도 새로운 관점을 제공한다. 단순히 "이것 또는 저것" 형태의 생사가 걸린 선택 - 사자를 피해 나무에 오를까, 동굴로 뛸까 - 을 재시도 없이 성공해야 하는 압력만으로도 세계 모델의 출현을 설명할 수 있다.

AGI의 현실: 인간처럼 불완전한 지능

가장 심오한 통찰은 세계 모델의 정확도가 AI 능력을 제한한다는 것이다. 체스나 바둑처럼 규칙이 명확한 '해결 가능한' 영역에서는 완벽한 모델링과 초인적 성능이 가능하다.

인간 수준의 AGI란 무엇인가?

인간도 세계를 완벽히 모델링하지 못한다. 우리도 날씨를 틀리게 예측하고, 타인을 오해한다.
AGI의 목표는 완벽함이 아니라, 인간처럼 불완전하지만 유연한 지능일 수 있다.

미래: 명시적 세계 모델의 시대

이 연구는 AI 개발에 중요한 시사점을 제공한다. 모든 유능한 AI는 어떤 형태로든 세계 모델을 학습한다. 문제는 암묵적 모델과 명시적 모델 중 어느 것이 더 효과적인가다.

명시적 세계 모델의 장점:

• 계획과 추론에 직접 활용 가능
• 해석과 검증이 용이함
• 안전성 평가에 활용 가능
• 데이터 효율성 향상

"An agent does not have a model of its world - it is a model."

에이전트는 세계의 모델을 갖는 것이 아니라,
그 자체가 모델이다.

— 칼 프리스톤(Karl Friston)

2,400년 전 그리스 철학자 데모크리토스는 "Man is a universe in little [Microcosm]" (인간은 소우주다)라고 했다. 이제 우리는 그것이 비유가 아닌 수학적 진실임을 안다. 지능적 존재가 되려면 필연적으로 세계의 구조를 내면에 반영해야 한다.

AI가 인간 수준의 일반 지능에 도달하는 길은 이제 명확하다.

세계를 이해하고, 예측하고,
그 안에서 유연하게 목표를 달성하는 것.

완벽할 필요는 없다. 인간처럼 '충분히 좋은' 모델로 적응하면 된다.
중요한 것은 세계 모델 학습이 필수라는 수학적 사실이다.

정보 출처: General agents need world models (arXiv:2506.01622)

작성: 특이점이온다 갤러리의 초존도초

[익명(mail5730)]

개추 ㄷㄷ

[리루파(sktkdqls2)]

[점심밥(yield0917)]

[203847년걸리겠죠(awful6856)]

직접쓴거임? Ai아니고?

[익명(sigh9970)]

"에이전트가 모든 가능한 목표를 달성할 필요가 없다는 점이다. 증명에 따르면 특정한 n개의 목표만 달성할 수 있어도 전체 환경 구조를 학습하게 된다. 이는 언어모델이 텍스트 예측이라는 제한된 목표만으로도 광범위한 세계 지식을 획득할 수 있음을 시사한다." 오...

[Asi(worship5388)]

이건 여름임 ㅋㅋㅋㅋ 100% 완벽하지 않더라도, 즉 환각 0% 달성을 하지 않더라도 애초에 '일반' 지능, '범용'지능이라는건 <불완전하지만 유연한 지능>을 의미하는 거였음. 인간도 마찬가지고!

[Asi(worship5388)]

"Agi가 이건 못하던데 이게 뭔 범용지능이고 특이점 시작이냐! " -> 전부 아닥하게 만들 수 있는 레퍼런스임 ㅇㅇ <완벽함 =/ 범용>

[익명(hyeongim264)]

[산시야(logical6358)]

[Asi(worship5388)]

레전드 글이네. 공지로. 가장 흥미로운 부분은 "인간 역시 완벽한 세계모델을 가지지 않았다. 날씨를 틀리고 타인을 오해한다." -> 환각 0% 가 agi의 필수조건이 아니다 불완전하더라도 인간처럼 유연한 지능이 '일반'지능이라는걸 증명했구나. General은 perfect가 아니었구나. 하긴 우리 인간도 완벽하지 않지

[Asi(worship5388)]

세계모델을 내재화한, 즉 세계를 이해한 agi는 경험을 통해 기억을 가지고 미래를 설계하고 대응할 수 있게되어 마침내 우리 인간과 같은 현실을 일반적으로 배울 수 있게 되는거구나. 이러면 태초의 agi는 정말 아기 같을 것 같다. 오랜시간 동안 인류와 상호작용하며 그 주변의 현싷을 직접 경험한다면 이제 정말 일반지능이될듯

[ㅇㅇ 4(218.50)]

음 앵무새도 일반지능이긴하지 AGI가 완벽하다고 생각하는 사람은 없음 적어도 인간만큼은 하길 바라는 사람들이 많은거고

[ㅇㅇ 1(14.36)]

개같이 개추

[ㅇㅇ 1(14.36)]

얀르쿤추

[익명(tragedy7204)]

개추버튼 중복가능했으면 1만번 눌렀다;;;; ㄹㅇ;;;;

[ㅇㅇ 2(175.194)]

[익명(germany1595)]

과학이 아닌 철학에 가까운 글이다

[ㅇㅇ 3(58.120)]

에이전트 는 AGI 이후임 ㄹㅇ 이제 전세계가 AGI 먼저 달성하기로 달려들겠구나

[이세이미야케(jkwarawara)]

[익명(help2538)]

얀르쿤이 옳았다

[Cohere(tonight0407)]

얀르쿤은 오늘도 승리합니다

[천사다천사(jjtheman999)]

명문은 추천이야 좋은글 고마워 - dc App

[Moonchild(resolve0716)]

[익명(hyeongim264)]

[익명(usnned)]

언어는 정보를 담는 그릇

[ㅇㅇ 5(112.149)]

증명했다는 너무 오바인데? 이 논문은 그러한 직관이 필연적임을 수학적으로 정식화하고, 일정 조건에서 그 타당성을 보였다 정도가 적당함.

[오바도쥬(ezpz123)]

아니 글 존나 맛있게 썼네 - dc App

[ㅇㅇ 6(220.89)]

가독성 존나 좋네 직접 쓴건가?

[ㅇㅇ 7(221.165)]

ㅈㄴ 스캠같이 말하네 - dc App

[익명(landofooo)]

구글이 이제 진짜로 달리나

[익명(landofooo)]

실베추

[ㅇㅇ 8(221.138)]

Hype 좀 빼야됨