늘 뻘글만 쓰는 대학원생입니다. 


모두의 기대를 웃도는 (모델의) 능력: 리즈닝? - 특이점이 온다 마이너 갤러리 (dcinside.com)



일단 위에 글에서 Open ai에 Gb(Gobi?)라는 사람이 박사학위 중에 썼던 논문이 'Deep Learning Beyond the Training Distribution'임.


이 논문은 쉽게 설명하면 'Ai가 훈련할 때 본적이 없는 데이터나 상황이 왔을 때 어떻게 대처할 것이냐?'임 


쉽게 설명하면 알파고 vs 이세돌 4국에서 알파고가 패배한 이유가 본인이 학습하지 못한 이외의 수가 나오니깐 대응을 못하고 사실상 자폭하고 멸망. 

내가 실제로 Ai학습하더라도 본인이 학습이 제대로 안된 패턴이 나오면 그냥 빈깡통 Ai가 되어버림.  그니깐 기존의 Ai는 유동적인 대처가 사실상 불가능함.


문제는 Chat gpt4이하 모델들도 마찬가지임. 본인이 학습이 안된 인풋값이 들어가면 헛소리를 말함. 즉 환각증세가 너무 심해짐. 

여튼 이 논문은 학습 안된 상황을 유동적이고 계획적으로 해결할 수 있도록 하는 방법에 대해 몇가지 방법을 제시했음.(설명은 생략)


최근에 반탈모 아저씨가 Agi를 달성하는데 데이터가 부족하지 않다고 했고, 알트먼이 환각문제를 상당부분 해결했다는거 보면

오히려 이 데이터 밖 추론능력이 대폭강화 됐을 가능성이 높다고 생각함.


만약 그렇다면 현재 Agi는 chatgpt4처럼 기존에 존재하는 데이터를 정리하고 논리적으로 말하는 수준을 넘어서 세상에 존재하지 않는 문제를 해결하고 굳이 학습하지 않더라도 본인이 판단하에 해결할 수 있는 능력이 있다고 생각하면 될거임 ㅇㅇ 


그니깐 이제는 정말 사람처럼 따로 학습하지 않더라도 본인이 즉석에서 생각해가면서 문제를 해결할 수 있다는 뜻임