3버전이 작년 5월에 나왔으니 벌써 만으로 1년이 넘었음


그간에 3버전을 뛰어넘는 규모가 바이두 마소에서 나오는등 이제 온갖 듣보 잡기업들도 3버전보다 큰 버전을 계획하고 있는중임


이런 굴욕적인 상황을 격고도 오픈AI가 다음버전을 속히 내놓지 않는 이유는 4버전을 기어코 매개변수 100조개 맞춰서 출시하기 위해서인것처럼 보임


지피티1보다 2가 10배 더크고 2보다 3가 100배 더 크니 3버전보다 4버전은 1000배 더 커야하므로 100조개


인간 두뇌규모수준의 매개변수임


물론 규모가 인간 두뇌수준이지 지능이 인간 지능수준이라는것을 의미하지는 않음


다만 내가 기대하는건 트렌스포머 아키텍처는 매개변수가 증가할수록 단순히 양적인 향상이 아니라 질적인 지능증가가 있다고 알려졌기 때문임


그렇다고 해서 GPT 시리즈가 계속 추가적인 연산량으로 AGI 수준까지 도달하느냐?  그건 의문이 든다고봄


얀레쿤 교수가 GPT 시리즈를 놓고 흥미롭긴 하지만 프로펠러 비행기로는 아무리 업그레이드해도 달에는 갈수 없다고 얘기함


계속 상승고도 기록을 깰수는 있겠지만 완전히 다른 접근방식을 취해야한다는거지 


물론 얀레쿤 교수가 틀렸을 가능성이 전혀 없다곤 볼수 없음


지능이라는게 결국 컴퓨팅 파워일지도 모르고


아무튼 GPT4가 100조개의 매개변수를 꽉 채워서 출시하려면 지금돈으로 수조원이 드는데 마소나 오픈AI가 그 막대한 돈으로 데이터센터나 존나게 돌릴 사람들처럼 안보임


누구썰로는 2035년에 50억원의 가격에 100조 매개변수를 실현가능하다는데 기다려봐야지