지식은 자연(or 현실, 물리법칙, etc ...)이 제시한 문제의 답을 기록해놓은 오답노트와 같다.


우리는 이 오답노트의 패턴을 통해서 자연이 가진 정답을 유추할 뿐이다.


즉, 지능이란 이 오답노트의 패턴을 인식하는 능력이다


무슨 개소리인지 간단한 문제를 통해서 알아보자.


길을 걷고있던 넌 갈림길을 만났다.


갈림길에는 문이 2개 있는데 넌 어디를 지나갈지를 선택해야한다.


만약 잘못된 문을 선택하면 넌 목숨을 잃는다.


어느 문을 고를까?











정답은 왼쪽 문인데...


과연 어떤 문이 정답인지 미리 알 방법이 있었을까?


문을 열기전에 어떤 문이 정답인지?


이번에는 약간 변형시켜서 진행해보자.



이번에는 눈 앞에 빨간색 문과 초록색 문이 있다


어떤 문을 지나가야 생존할 수 있을까?


이제는 어떤 문이 정답인지를 알 수 있을까?
















정답은 초록색 문(B).


문을 열지않고 어떤 문이 정답인지 알 수 있었나?


한 번 더 해보자.


이번에는 갈림길을 3번 골라야한다.





정답은 ABA.


자, 이제 죽지않고 살아남은 너의 오답노트에는 충분한 데이터가 쌓였고 데이터에 숨겨진 패턴을 인지했다.


이제 더 이상 갈림길이 몇 번 나오던 찿아낸 패턴을 확장시키기만 하면 문제를 해결할 수 있다.


한 번 확인해보자




정답은 A...?



그런데 과연 그럴까? B 일 수도 있지 않을까?


다시 오답노트의 패턴을 보자.


니가 본 패턴이 출제자가 가진 '정답지의 패턴'과 같은 패턴일까?


정말로 A가 정답이였을까? 아니면 사실 B가 정답일까?


정답은 이 문제의 출제자인 나만 알고있고 너한테 안알려준다면


네가 이 문제의 정답이 무엇인지 확신할 수 있을까?


특정 문의 색깔을 더 선호하는 것이 문 너머의 정답을 고르는 것과 관련이 있었을까?


아니면 다른 패턴이 문 너머의 정답과 관련이 있고 색깔은 상관이 없었던 걸까?


그렇다면 문제가 더 많이 쌓이면


수백만, 수천만개의 데이터가 쌓인다면


그 모든 데이터에 통용되는 패턴을 찿아낸다면


다음 문제도 틀리지 않을 수 있을까?


한 번 해보자








정답은 중요하지 않음


'지식은 알고있는 것 이상을 알려주지 않는다.'


니가 만들어낸 오답노트의 패턴이 곧 지식인거고


그건 출제자가 가진 답안지가 아니라


오답노트를 통해서 쌓인 데이터로 출제자가 가진 정답지의 패턴을 유추한 것에 불과함


이 오답노트에 쌓인 데이터로 과연 정답을 예측할 수 있었을까?


문을 열어보지 않고 문 너머의 정답을 알아낼 수 있을까?









"무엇이 옳은가?"


이 문제의 답을 알 수 있을까?


우리가 직관적으로 느끼는 호불호, 옳고, 그른 것의 구분은 


자연이 수십억년동안 DNA에 새겨온 오답노트의 패턴이 아닌가? (문화적 요소마저도)


평가함수의 자동화가 재귀적 개선의 열쇠로 받아들여지는데 우리조차도 무엇이 옳은가에 대한 평가함수를 알 수 없는 상태임


이 사진 속 여인은 아름다운가?



이 게임은 재미있나?



손오공이 더 강하다 vs 사이타마가 더 강하다


여기에 동의하지 않는 사람도


여기에 동의하는 사람도


서로가 자신의 의견이 '정답'이라고 단정하고 상대를 비난하기 일쑤임


주관, 선호, 호불호, 취향


결국 우리는 각자가 가진 오답노트의 패턴을 '답'이라고 인식할 뿐


진짜 정답을 가지고 있지 않은거임



우리는 지능이라는 추상적인 능력에 대한 명확한 평가함수를 가지고 있지 않음


모델의 성능평가에 벤치마크라는 인간의 오답노트와 비슷한지를 측정할 뿐임


"어떤 모델이 가장 좋은 모델인가?" 제미니? GPT? Grok? 아니면 딥시크?


제미니? 어째서? 벤치마크 점수가 높기 때문에? 아니면 '체감'이 더 좋아서?


이 질문과 답변이 우리가 지능의 명확한 정의를 모른다는걸 보여주고 있는거임



우리는 지금 AI에게 문 뒤의 정답을 알려주는게 아니라 우리가 가진 오답노트만을 알려주고 있음


AI는 주어진 오답노트의 패턴을 분석해 문을 선택할 뿐 문 너머의 정답을 유추하는 능력을 가진게 아니라


우리가 가진 오답노트의 패턴과 가장 유사한 패턴을 유추하는 능력을 가지게 된거임


어떤 '지능의 곡선' 위를 따라 발전하는게 아니라


해상도가 낮은 '인간의 지능' 에서 해상도를 높여가는 상황이라는 거임



결론을 말하자면


지능이란 지식이라는 오답노트의 패턴을 인식하여 제시된 갈림길에서 올바른 문을 유추해내는 능력이라고 생각함


따라서 패턴인식능력을 강화할 방법을 찿는게 AGI ~ ASI로 가는 길이지


강화학습같은 방식은 그 길이 아니라고 생각함 ( 객관적 평가가 불가능하니까 )



3줄요약


1. 지능의 평가함수를 찿지 못한다면 재귀개선 AI는 만들어내기 힘듦


2. 애초에 지능이라는 추상적인 능력에 평가함수를 만들어낼 수 없다고 생각함


3. 좀 더 근본적인 패턴인식 이라는 틀에서의 발전이 필요한 부분이라고 생각함






조금 긴 글인데 읽어줘서 고맙고


재귀적 개선이 불가능하다는 이야기는 아니고


지금 우리가 생각하는 AI가 AI를 발전시키는 재귀적 개선에 필요한 AI가


지금의 학습방식으로는 이루어질 수 없다는 주장을 하고싶었음


글을 쓰고 보니 어떤 사람이랑 주장이 좀 비슷해졌네