전 세대의 AGI 요건 만족될 때마다 AGI 골대 옮기는 중.
분명히 내 기억으로는 "한 가지 종류의 일만 잘하는게 아니라, 모든 종류의 일을 학습/처리할 수 있는 AI"가 강인공지능, AGI였음.
체스 두는 AI는 체스만 두고, 이미지 분류하는 애들은 이미지만 분류할줄 아는 시대였으니까.
근데 '언어모델'이 나오면서 전통적 의미의 AGI가 달성되어버림. 인간이 할 수 있는 거의 모든 활동은 언어로 표현이 되니까.
다만 지능이 낮은 AGI였던거지.
두 번째 골대 옮기기는 튜링 테스트임.
처음 언어모델은 분명히 AGI지만 지능과 성능이 낮았거든.
그러니까 채팅/대화를 통해서 사람인지 아닌지 속이는 테스트를 통과해야 AGI다 라는 의견이 지배적이 됨.
근데 GPT 시리즈가 발전하면서 튜링 테스트를 너무나 쉽게 통과하게 됨.
AGI가 달성됐다는건 뭐다? 골대를 옮긴다.
세 번째 골대 옮기기는 전반적인 분야에서 일반인 수준의 지능임.
근데 AI 성능이 너무 가파르게 증가하면서 이것도 바로 골대 옮겨버림.
네 번째 골대는 '전 분야에서 각각의 전문과와 동등한 수준의 지식/지능을 가지는 AI'임
곧 정복될 것 같으니까 바로 골대 옮김.
그 다음 골대는 '그래도 논리적 추론은 되어야지?' 임 ㅋㅋㅋ o1한테 바로 따임.
다섯 번째 골대는 1000억 달러 벌어주는 AI 혹은 인간 대신 업무에 투입 가능한 언어 모델임.
아마 이것도 곧 골대 옮길거라고 생각한다.
아마 전 분야에서 상위 1%의 퍼포먼스를 내는 AI → 지구의 모든 인간보다 더 똑똑한 AI로 골대 옮기다가 더 이상 부정 못하면 골대 옮기기 포기할 듯
개인적으로 좋은 현상이라 생각함 ㅋㅋ
재귀개선되야 agi인데? 재귀개선 안되는 agi 뭔 의미있냐
한 가지 종류의 일만 잘하는게 아니라, 모든 종류의 일을 학습/처리할 수 있는 AI가 아직도 단 1개도 없는데?
ㅇㅇ 일단 지속 학습부터 안됨
인류가 만든 문제가 AI에 의해서 모두 해결되었을 때 AGI가 달성되려나...?
내 생각엔 '시발 ㅈ됐다 나보다 더 나은 것 같네.'라고 생각하는 사람들 비율이 많아졌을때 도망갈 구석이 없어졌다고 봄
그건 아니고 AI가 튜링 통과하면 다할수 있을줄 알았던거임.. 게임도 혼자 만들고 영화도 만들고. 근데 그게 아니었던거지
아직 데이터가 부족한 마이너한 부분까지도 가능한건 아직 없음. 그리고 그건 텍스트가 아니라 실제로 물리세계와 직접 상호작용해서 스스로 물리데이터를 뽑아내고 스스로 세상을 탐구하고 이해하는 수준이 되면 그때는 진짜로 '모든' 종류의 일을 할 줄 알게 된다고봄.
아직임 - dc App
GPT는 이미 모든 종류의 일은 할 줄 안다. 잘하느냐, 못하느냐에서 갈리는 것 뿐. 나도 파이썬으로 게임 만들 수 있어. 테트리스 수준이라서 그렇지.
나도 일억 삼천만자리 숫자 제곱 할 줄 암. 답은 1임. 틀렸지만 하긴 했지
골대를 옮긴게 아니라 기존 골대가 가짜 골대였던거임 ㅇㅇ 우리가 생각하는 일반레벨 인간 수준이랑 튜링테스트 같은건 전혀 상관 없었다는거지 인공지능과 인간지능 발달과정이 너무 달라서 일어나는 일이지만
지금도 특슬람이 원하는 agi 기준에 한참 모자라는 거 맞고, 골대는 옮겨진 적 없다 누가 기준을 바꿨네 뭐네 해봐야 특슬람이 원하는 기준은 변하지 않았음 인간의 모든 지적 활동을 대체할 수 있고, 재귀개선이 가능한 자율 지능이지
알트만이 말한 (좋은) 골대 옮기기인 듯
원래 과학이란 그렇게 작동하는거임