질문자 9: 만약 100배의 계산 능력이 있다면, ChatGPT에 어떤 창발적 특성을 기대하시나요? 점차 똑똑해지고 있다는 것은 알고 있지만, 질적으로 새로운 무언가가 있나요?


샘 알트만: 바로 그 질문에 답하기 위해, 현재 컴퓨터의 약 100배의 계산 능력을 가진 'Stargate'라는 새로운 프로젝트를 진행하고 있습니다. 이전에는 사전 학습만 하는 패러다임이었고, GPT 번호 1, 2, 3, 4는 각각 정확히 100배는 아니지만 매우 근접한 배율로, 각각에 큰 새로운 창발적인 것들이 있었습니다. 사내에서는 약 4.5까지 진행되었고, 5.5에 도달하려면 100배의 계산 능력이 필요합니다. 그것에 대해서는 나중에 언급하겠지만, 작년 이 분야에서, 혹은 적어도 우리에게 가장 중요한 사건은 추론을 할 수 있는 이러한 새로운 모델들입니다. 이는 믿을 수 없을 정도의 새로운 계산 효율성 향상이며, 이전 세계에서는 GPT-6까지 실현되지 않을 것이라고 예측했던 많은 벤치마크에서 성능을 달성할 수 있습니다. 훨씬 작은 모델로부터, 이 강화학습을 통해서 말입니다.


물론 때려 박는게 다는 아니지만 100배에 근접한 비율로


창발성이 나오고 있음