[📪정보] OAI 연구원, '미래 연구 및 모델 향상 방법'

1. (모델들을 더 좋게 만들기 위한 어떤 미래 연구 분야에 가장 관심이 있는지?)

모델을 사용하여 모델을 더 좋게 만드는 것에 정말 많은 관심이 있다.

AI가 어떤 행동을 했을 때 그 결과가 좋은지 나쁜지 보상 신호를 받고 스스로 학습하는 방식

이 '신호'를 다른 AI가 주거나, AI가 학습 데이터를 직접 만들어내는 방식

2. (모델을 사용하여 모델을 더 좋게 만들고 올바른 방향으로 가고 있는지 신호를 주는 것과 관련하여, 현재 어떤 단계에 있나요? 작동하나요? 아니면 아직 초기 단계인가요?)

"네, 놀라울 정도로 잘 작동합니다.

합성 데이터는 정말 강력한 추세였습니다.

이것을 더 추진하게 되어 기쁩니다.

더 강력한 모델이 나올수록 미래에 저희 모델을 개선하기가 더 쉬워집니다."

3. (딥리서치 같은 에이전트가 나왔는데, 이런 접근 방식이 에이전트 전반에 걸쳐 어떻게 확장될까요?)

딥 리서치나 오퍼레이터는 모델을 특정 대상에 대해 매우 깊이 훈련시키고 싶을 때 사용함

하지만 o3를 통해, 모델이 모든 종류의 도구에 능숙해지도록 훈련시킬 수 있다는 것을 확인함

한 도구를 배우면 다른 도구 사용에도 도움이 되는 일반화 능력을 o3로 확인했음

그래서 앞으로는 하나의 특정 도구에 특화된 훈련은 그다지 많지 않을 것으로 예상함

이미 그것을 입증했으며, 이제 그 기능들을 광범위하게 통합할 수 있음

실제로 사람들이 o3를 정말 좋아하는 이유 중 하나는

딥 리서치와 비슷한 많은 기능을 더 빠르게 얻을 수 있다는 점임

정말 최고의 보고서를 원한다면 딥 리서치를 사용할 수 있지만,

그 중간 정도의 것을 원한다면 o3가 적합함

-> 앞으로는 점점 더 일반화된(General) 하나의 모델이 더 많은 도구들을 다루게 하는 추세로 예상됨

4. (공개적으로 코딩 에이전트(A-SWE)가 나올 거라고 말씀하셨는데, 앞으로 이런게 다른 것들보다 먼저 나올 것 같다고 생각하시는 기준이 있는지?)

이미 SWE-bench 수치가 많은 인간들이 얻는 점수를 초과하고 있기 때문에

코딩 에이전트는 분명히 곧 나올 것이다.

5. (샘 알트만은 모델 제품군을 GPT-5로 통합하는 것에 대해 이야기했는데, 이를 위해 필요한 것은?)

현재 4o는 채팅에 매우 뛰어나고, 훌륭한 대화 상대이다

하지만 o3는 매우 다른 기술 세트를 가지고 있다.

문제를 정말 열심히 생각할 수 있지만,

여러분이 'hi'라고 말할 때 모델이 5분 동안 생각하는 것은 원하지 않을 것이다.

그래서 이러한 기능들을 결합하는 것이 우리가 직면한 실제 과제라고 생각한다.

즉, 모델을 정말 즐거운 잡담 상대이면서도 언제 추론해야 할지도 알도록 훈련시키는 것이다.

이것은 GPT-4.1과 약간 관련이 있는데,

코딩을 더 좋게 만들기 위해 채팅 데이터를 줄이고 코딩 데이터를 늘렸다고 언급했었다.

그런 의미에서 몇 가지 제로섬 결정이 있고, 모델을 정확히 무엇에 맞출지 결정해야 한다.

그것이 GPT-5의 실제 과제이며, 이 적절한 균형을 어떻게 맞출 것인가 하는 것이다.

댓글 5