[📪정보] Bob McGrew 241219 인터뷰 정리

[익명(121.178)]

1시간 전 업로드 된 팟캐스트

올해 11월까지 OpenAI 최고 연구 책임자였던 사람 팟캐스트 내용

1. (저희는 사전학습 측면에서 벽에 부딪혔을까요?)

이 지점에서 연구소 내부의 사람들과 외부 사람들의 관점이 많이 갈라지는 것 같습니다.

외부의 사람들은 처음으로 ChatGPT가 나왔을 때 AI에 주목하기 시작했고,

6개월 후에 GPT-4가 나와 모든 것이 매우 빠르게 가속화된다고 느꼈습니다.

하지만 GPT-4는 1년 반 전에 나왔고, 우리는 모두 이미 그 전에 미리 훈련된 모델이라는 것을 알고있습니다.

그래서 사람들은 '왜 아무것도 나오지 않죠?' '무슨 일이 일어나고 있는거죠?' 라고 묻습니다.

하지만, 사전학습 진행을 위해서는 컴퓨팅을 엄청나게 늘려야하며,

더 많은 칩, 더 큰 데이터 센터, 알고리즘 개선 등이 필요합니다.

메타와 X도 데이터 센터를 구축하고 있고, 이는 근본적으로 매우 느린 수년간의 프로세스가 필요합니다.

GPT-4에서 GPT-5로 가기 전에, 여러분들은 10배의 컴퓨팅이 증가된 모델을 보게 될 것 입니다. (4.5를 말하는 듯)

사람들은 종종 우리가 GPT-3에서 GPT-3.5로, GPT-4로 갔다는 사실을 잊곤 합니다.

알다시피, 우리는 이 차세대 모델이 출시될 때까지 기다려야할 것 같습니다.

o1을 살펴보면, 강화학습이 적용된 o1은 GPT-4보다 100배 더 많은 컴퓨팅을 수행합니다.

하지만 일부 사람들은 이에 대해 깨닫지 못하는 것 같습니다.

왜냐하면 우리가 GPT-5라는 이름 대신 o1이라는 이름으로 모델을 출시하기로 정했기 때문입니다.

하지만 이것은 사실 실질적으로는 새로운 세대의 모델이라고 볼 수 있습니다. (100배의 컴퓨팅 증가가 있기 때문)

그리고 차세대 모델인 GPT-4.5가 나올 때, 흥미로운 점은 이 o1에 사용된 강화학습 프로세스와 사전 훈련 진행이 어떻게 결합되는지를 지켜보는 것입니다.

저는 그것이 우리가 기다려서 무엇이 발표되는지 지켜봐야 할 것으로 봅니다.

2. (2025년에는 2024년처럼 많은 발전이 있을까요? 아니면 둔화될까요?)

-차세대 모델로 넘어가는 과정에서는 항상 이전 세대에서 보지 못했던 문제에 부딪히게 됨

-데이터 센터가 구축되고 나서도, 여러 문제를 해결하고 모델을 완성하는데 시간이 걸림

-o1을 사용하는데 사용한 강화 학습은 새로운 데이터센터가 필요하지 않기 때문에 개선 여지가 많이 있음

-이제 막 시작됐으므로 알고리즘적으로도 많은 개선 여지가 존재

-이론적으로, o1이 몇 초, 몇 분, 몇 시간, 몇 일까지 작업을 수행하도록 확장할 수 있음

-GPT-3에서 GPT-4에서 발전에서 근본적인 새로운 기술은 없었음

-이와 유사하게, 2025년에는 o1같은 모델이 실제로 오랫동안 작업하도록 확장할 수 있느냐가 가장 흥미로울 것

3. (o1 같은 모델의 활용 방법에 대해)

-다른 연구실에서도 곧 o1같은 모델들이 나올 것이라고 확신함

-이런 모델들을 활용해 장기적인 작업을 가능하게 하는 에이전트에 대해 생각

-에이전트라는 단어가 과도하게 남발되어 큰 의미는 없다고 생각함

-모델이 물건을 대신 예약하고, 쇼핑하고, 문제를 해결해줬으면 하는 여러가지 작업들이 있음

4. (클로드의 computer use와 같은 기능에 대해)

-모델의 신뢰성이 가장 중요함

-신뢰성이 90% -> 99%로 올라가는 것, 99%->99.9%에는 모델 성능에 상당히 큰 도약이 필요함

-이에는 1~2년분의 작업이 필요한 정도

-그래서 이것이 컴퓨터를 사용하는 에이전트가 마주치게 될 첫 번째 문제가 될 것

-이런 에이전트는 마우스, 키보드를 제어하기 때문에 10배, 100배의 토큰이 필요함

-o1같은 모델은 오랜 시간 생각하며 신뢰할 수 있는 일관된 사고의 사슬을 만들기에 이런 문제를 해결할 수 있음

-이것이 내년의 획기적인 발견 중 하나가 될 것

OAI 발표 보고 추가예정

[sama(prince2317)]

[익명(116.121)]

저 사람 말에 따르면 4.5는 4의 열배의 컴퓨팅 성능에 강화 학습과 사전 학습이 결합된 모델이라는 말인가?

[익명(121.178)]

4.5는 10배의 컴퓨팅이 들어간 모델이 될 것이고 거기에 o1과 같은 기술이 얹혀질 때 (o1.5같이?) 어떤 일이 일어나는지 지켜보자는 의미로 보임

[익명(124.53)]

오늘 알트만 없으니 아니겟고 이틀 남앗는데 4.5가 나올것인가?