7cea8374b68468f23ae798a518d604039fd8feef51ecea85fc06

*작년 10월 일리야 수츠케버 발언:


TOMASO POGGIO : 최신 LLM이 얼마나 독창적이거나 창의적인가요? 구체적으로 말하자면 GPT-4 이후, 예를 들어 GPT-5정도가 새롭고 사소하지 않은 수학적 추측을 진술할 수 있을 것이라고 생각하시나요? 증명하는 것이 아니라 진술하라는 것입니다. 우리는 그것이 향후 5년 안에 가능하다고 생각합니다.

ILYA SUTSKEVER: 현재 모델이 그렇게 할 수 없다고 확신하시나요?


*작년 11월 일리야 수츠케버 발언:


"과학적 문제에 있어서는 지금은 아직 많은 사람들이 연구하고 있지 않은 분야라고 생각합니다.

저희의 AI는 생산적인 연구를 시작할 수 있을 만큼 강력해지고 있으며,

곧 매우 흥미로운 연구 결과를 공유할 수 있을 것입니다.

하지만 저는 이것이 큰 그림의 상황이라고 말하고 싶습니다."


-이후 2024. 7 로이터 딸기 유출 독점기사 中 :

'strawberry'는 인터넷을 자율적으로 탐색하여 '심층 연구'를 진행할 수 있는 수준을 목표로 하는 프로젝트


*작년 11월 중순:


샘 알트만은 "OpenAI 역사상 지금까지 4번 정도 있었던 혁신"이 가장 최근 지난 몇 주 사이에 발생하는걸 목격했다고 말함


*작년 11월 후반:


로이터는 Q*라는 내부 혁신으로 인해 AGI 돌파구가 마련됐고 이를 두고 내부 안전에 대한 의견차이로 일리야 수츠케버가 샘 알트만을 축출했다는 기사를 보도함


*일리야와 알트만의 AGI로 가기위한 길(2023년):


-AI가 새로운 물리학을 발견할 수 없다면 AGI라고 부를 수 없다.

-새로운 물리학 연구를 할 수 있는 AGI로 가는데 장애물에 대한 생각:


제한된 추론 능력이다.

모델은 추론 능력이 더 뛰어나야 한다.

이에 대한 예로서, 제 공동 창업자인 '일리야 수츠케버'가 가끔 했던 말이 제 마음 속에 깊이 남아있다.


아이작 뉴턴의 삶에서, 더 많은 수학 교과서를 읽고, 교수와 대화하고, 문제를 연습하는 것이 옳은 일이었던 오랜 기간이 있었다.

이것이 오늘날 우리 모델이 하는 일이다.


하지만 뉴턴이 기하학, 대수에 대한 글을 읽는 것만으로 미적분학을 발명할 리가 없다.

어떤 시점에서, 뉴턴은 새로운 아이디어를 생각해내고 이를 테스트하고 구축해야 했다.

그 덕분에 뉴턴은 미적분학을 발명할 수 있었다.

그리고 그 두 번째 단계는 완료되지 않았다.

우리가 AGI라고 부를 모델에게는 그것이 필요하다고 생각한다.


-> OpenAI의 AGI 레벨4, 혁신가를 떠올리게 하는 멘트



*2024년 11월, o1 출시 이후 샘 알트만 인터뷰


(최근 YC에서 열렸던 o1 해커톤에서는 날지 못하던 에어 포일을 반복적으로 개선하여 경쟁력있게 만드는 데모가 3위를 차지하기도 했습니다. 마치 레벨4 (혁신가)를 떠올리게 했어요.)


*레벨 2 : 추론가, 레벨 3: 에이전트, 레벨 4: 혁신가


- 웃긴 말이지만, 저는 사람들에게 한동안 레벨 2->레벨 3로의 점프는 꽤 빠르게 일어날 것이고

레벨 3에서 레벨 4로의 점프는 어떻게든 훨씬 더 어려울 것이고 중간 규모 이상의 새로운 아이디어가 필요할 것이라고 말하고 다녔어요.


하지만 그 데모와 몇 가지 것들은 이미 현재 모델을 창의적인 방식으로 활용하는 것 만으로도 엄청난 혁신을 얻어낼 수 있을 것이라고 저를 확신시켜줬습니다.

...


사람들이 지금 생각하는 것보다 (레벨4를 향한) 상황이 훨씬 더 빨리 진행될 것입니다.



-저는 역사상 처음으로 '지금 우리가 무엇을 해야할지 알고있다'고 느끼고 있어요.


저는 여기서부터 AGI를 구축하려면 여전히 엄청난 양의 작업이 필요하며,

알려지거나 알려지지 않은 문제들이 있지만,

기본적으로 우리가 무엇을 해야하는지 알고 있다고 생각합니다.



*2024년 11월, o1 출시 이후 노암 브라운 인터뷰


-o1 이후 모든 것을 갖추었다고 생각함

-그래서 그는 AGI 회의론자에서 이제 AGI가 실제로 일어날 거라고 말하는 사람이 됨



*2025 AGI


(당신은 2025년에 무엇을 기대하고 있나요? 무엇이 올까요?)


- AGI요.

그게 기대됩니다.





알트만의 2025 AGI 발언을 이런 맥락에서 보면 이해가 될지도.

갠적으로는 레벨4 도달시 AGI 선언을 할 것 같음.