이 점을 정말 강조하고 싶습니다. 알파고 제로는 테스트시점에 몬테카를로 트리 서치 없이 신경망만으로 실행하면 성능이 인간 최고 선수보다도 낮습니다. 알파고는 2016년에 개발되었는데 8년이 지난 지금, 2024년에도 순수 신경망만으로 바둑에서 슈퍼휴먼 수준을 달성한 모델은 "없습니다".
제가 이것을 많은 사람들에게 말하면 사람들은 보통 "그럼 스케일링하면 되는 거잖아?"라고 합니다. 물론 이론적으론 그렇습니다. 하지만 알파고제로 수준이 되려면 얼마나 그 규모를 키워야할까요?
경험적으로 얻어낸 지식이 있습니다. elo 레이팅을 120점 올리려면 모델 크기, 훈련시간을 2배로 늘리거나 / 테스트 시점의 컴퓨팅을 2배로 늘려야 합니다. 따라서 순수 신경망이 3000이라고 할 때 5200이 되려면 모델 크기와 훈련을 10만배 확장해야 합니다."
(OpenAI는 Test Time Computation + 강화학습을 통해 LLM의 사전학습 제약을 돌파하는데 성공했다.
그리고 이 궤적으로, LLM은 최소한 수학, 코딩과 같은 분야에서 곧 초인적 능력을 얻을 것이다.)
4대비 4.5는 10배의 컴퓨팅 큰 체감을 느끼기는 어려울듯 결국 베이스 모델은 추론 모델 발사대같음... 다만 슐레이만이 말한 장기기억 프로토타입이
4.5라면 여름이 될 수도 있을지도
스타게이트가 스케일을 10만배 확장하는 프로젝트니끼 장기적으로는 개쩔듯
1. 베이스모델이 추론 모델 발사대인건 동의 2. 하지만 알파고는 바둑만 두는 모델이지만 llm의 경우 갑자기 능력이 발전될 수 있는(창발) 범위가 넓기에 특정 작업에서 성능 향상 보일 가능성도 존재함 3. 스타게이트에서 한 사이클의 1000배는 손정의의 인터뷰에서만 나온 근거이며 또한 컴퓨팅 속도를 말하는 것 4. 4.5에서 열배는 모델의 규모(파라미터)를 말하는 것 5. 애초에 손정의가 말한 1000배는 gpt규모증가를 포함해서 말한 것 (칩속도10 x 칩개수10 x gpt규모10) 결론: 나와봐야 암
알파고는 llm의 사례로 ttc의 중요성을 강조하려고 예시로 든거임
해당 댓글은 삭제되었습니다.
무슨 의도로 댓글 다는거임? 결국 스케일링 10배에 해당하는 gpt4.5는 추론모델의 성능을 기대하기에는 어렵고 추론모델 발사대 역할을 할거라는 말인데