10월 21일 빌게이츠

GPT 기술은 정체기에 도달했다


vs


11월 10일 빌게이츠

앞으로 5년 안에 상황은 완전히 바뀔 것이다


11월 중순 APEC

(2024년에) 모델의 성능이 누구도 예상하지 못할 수준으로 큰 도약을 이룰 것이다.



사실 이 전략은 GPT-4 때도 존재 했던 전략임


아래는 GPT-4 시스템 카드에서도 언급된 내용임


2.12 가속화

OpenAI는 GPT-4와 같은 최첨단 시스템의 개발 및 배포가 더 넓은 AI 연구 및 개발 생태계에 미칠 수 있는 영향에 대해 우려하고 있습니다.23 특히 OpenAI에게 중요한 우려 중 하나는 경쟁적인 역학이 안전 기준의 저하, 나쁜 규범의 확산, 그리고 가속화된 AI 타임라인으로 이어져 각각 AI와 관련된 사회적 위험을 증가시킬 위험입니다. 우리는 이를 여기서 "가속화 위험"이라고 언급합니다.24 이것은 우리가 GPT-4를 출시하기 전에 6개월 동안 안전 연구, 위험 평가 및 반복에 시간을 할애한 이유 중 하나였습니다.25 GPT-4의 배포로 인한 가속화 위험을 구체적으로 더 잘 이해하기 위해, 우리는 전문 예측가들26을 모집하여 GPT-4 배포의 다양한 특징(예: 타이밍, 커뮤니케이션 전략, 상업화 방법 등)을 조정하는 것이 가속화 위험의 (구체적인 지표들에) 어떤 영향을 미칠지 예측하도록 했습니다. 예측가들은 여러 가지가 가속화를 줄일 것이라고 예측했는데, 여기에는 GPT-4의 배포를 추가로 6개월 더 지연시키고 GPT-3 배포 때와 비교하여 GPT-4 배포 주변에서 더 조용한 커뮤니케이션 전략을 취하는 것이 포함되었습니다. 우리는 또한 최근의 배포로부터 조용한 커뮤니케이션 전략이 가속화 위험을 완화하는데 있어 효과가 제한적일 수 있음을 배웠으며, 특히 새롭고 접근 가능한 기능들이 문제될 때 그렇습니다.


https://cdn.openai.com/papers/gpt-4-system-card.pdf


GPT-4 배포할때 취한 전략이

1. 배포 지연

2. 조용한 배포


이 2가지 전략을 취했었음


이 전략은 실제 배포 과정 (연구원 비공개 테스트 => 특정 기업 선점 공개 => 대기열 방식 공개 => 모두 공개) 뿐만 아니라

알트만도 살짝 보여줬었음





https://www.theverge.com/23560328/openai-gpt-4-rumor-release-date-sam-altman-interview

"People are begging to be disappointed and they will be. The hype is just like... We don’t have an actual AGI and that’s sort of what’s expected of us."

"사람들은 실망하기를 간절히 바라고 있으며 그들은 실망할 것입니다. 이 모든 흥분은 마치... 우리에게 실제 AGI가 있는 것처럼 기대되지만, 사실 우리는 그런 것을 가지고 있지 않습니다."


이건 23년 1월 기사인데

GPT-4 훈련자체는 22년 8월에 끝났고 안전 문제로 배포를 지연하고 있던중이였음





그래서 이와 같은 맥락으로 볼때, GPT-5를 까내리다가 갑자기 기대하게 만들고 있다?


정렬 문제로 기대컨 시키면서 뭔가 지연하고 있었다가

정렬 문제 관련해서 하나 해결됐을 가능성이 높다고 생각됨