agi는 특이점의 열쇠일 뿐이지 그 자체로 특이점이 아닌데


특이점의 정의는 사람마다 다르겠지만 ai가 인간의 지능을 초월하는 시점이라고 하면


사실 여기서 말하는건 개인 하나가 아닌 전 인류의 집단지성을 합쳐도 이길 수 없는 초인공지능의 등장을 의미하는 걸로 안다만


백보 봐줘서 아이큐 100 수준의 사고력을 가진 ai가 되는 시점이라고 보더라도


처음 만들어진 agi가 아이큐 100 수준일리가 없잖아?


그 이전에 프로토타입이 인간 수준일 거라 예상하는 것부터 무리같은데


어쩌면 쥐의 뇌 수준에서 출발해서 개 수준의 지능을 넘어 한참 후에 인간 수준까지 올라올 수도 있는 거고


그게 인간의 아이큐 150 정도를 넘어서기 시작하면 스스로 성장을 시작해서 폭발적으로 가속할진 몰라도


그전까진 agi라고 해서 스스로를 더 '똑똑하게 만들 방법'을 고안할 정도로 똑똑하진 않을걸?


agi가 만들어진 후에도 일정 기간은 인간들이 계속 보조해주고 보완하고 교육해야 할 거라고 봄


즉 agi=스스로 무한히 성장하는 ai라는 생각도 비약이라는 소리


아이큐 80짜리 agi가 탄생했다고 해서 아이큐 100짜리 인간보다 빨리 학습하고 빨리 성장해서 더 나은 성과를 만들어낼거란 기대는 안 하는 게 좋지 않을까





뻘글이지만 아래 올라온 글 보고 든 생각임