단기AGI를 준비하기 위해 지금 해야 할 중요한 일이 몇 가지 있습니다.
첫째, 우리는 점점 더 강력한 시스템을 만들면서 이를 배포하고 실제 세계에서 운영하는 경험을 쌓고 싶습니다.
우리는 이것이 AGI를 신중하게 관리하는 가장 좋은 방법이라고 믿습니다.
AGI가 있는 세상으로의 점진적인 전환은 갑작스러운 전환보다 낫습니다.
우리는 강력한 AI가 세상의 발전 속도를 훨씬 더 빠르게 만들어줄 것으로 기대하며,
이에 점진적으로 적응하는 것이 더 낫다고 생각합니다.


점진적인 전환을 통해 사람, 정책 입안자, 기관은 무슨 일이 일어나고 있는지 이해하고,
이러한 시스템의 이점과 단점을 개인적으로 경험하고, 경제에 적응하고, 규제를 시행할 시간을 갖게 됩니다.
또한 사회와 AI가 함께 진화할 수 있게 하고, 위험이 상대적으로 낮을 때
사람들이 집단적으로 원하는 것을 파악할 수 있게 해줍니다.


우리 시스템이 AGI에 가까워짐에 따라
모델 생성 및 배포에 점점 더 신중해지고 있습니다.

둘째, 우리는 점점 더 정렬되고 조종 가능한 모델을 만들기 위해 노력하고 있습니다.
GPT-3의 첫 번째 버전과 같은 모델에서  InstructGPT  및  ChatGPT 로의 전환은  이에 대한 초기 예입니다.


우리는 AGI 노력이 언제 훈련 실행을 중단해야 하는지, 모델을 출시해도 안전한지 결정하는지,
모델을 프로덕션 사용에서 제외해야 하는지에 대한 공개 표준이 중요하다고 생각합니다.
마지막으로, 우리는 주요 세계 정부가 특정 규모 이상의 훈련 실행에 대한 통찰력을 갖는 것이 중요하다고 생각합니다.

-2023년 2월 24일 샘 알트먼
https://openai.com/blog/planning-for-agi-and-beyond
 





오픈AI 내부에서는 대체 무슨 일들이 일어나고 있을까. . .