OpenAI 최고연구책임자 마크 첸 인터뷰 핵심 요약.txt

* 연구자들 빼앗기 경쟁이 심해질 때 실제로 OpenAI 연구자들에게 수프를 만들어 가져다줬다고 함. 분위기 풀어주는 데 효과 있었고 "결국 우리가 이긴 것 같다"고 농담.

* AI 연구자는 꼭 AI 박사일 필요는 없다고 함. 트레이더, 물리학자, 수학자 등 다양한 배경의 사람들이 연구를 잘함. 중요한 건 창의적인 문제 해결 능력.

* 박사 없이 연구자가 되고 싶으면 좋은 논문을 끝까지 복제해보라고 조언. 단순 구현이 아니라 논문의 loss, training curve까지 최대한 맞춰보면 논문에 안 적힌 노하우를 많이 배우게 된다고 함.

* 본인이 AI 연구를 시작하게 된 계기는 알파고 vs 이세돌 대국. 처음 크게 도전한 프로젝트도 DQN 구현이었다고.

* RL은 수학·코딩처럼 정답이 명확한 분야에서는 매우 잘 먹히지만, 창작 글쓰기처럼 평가가 주관적인 분야는 아직 어렵다고 설명.

* 앞으로 모델 평가는 단순 벤치마크보다 실제 연구, 실제 코딩 협업, 장시간 작업 수행 능력이 훨씬 중요해질 것이라고 봄.

* "사전학습은 죽었다"는 주장에는 전혀 동의하지 않음. LLM 역사 내내 "이제 끝났다"는 말이 반복됐지만, 결국 새로운 엔지니어링과 연구 아이디어로 계속 한계를 돌파해 왔다고 설명.

* reasoning(o1 계열)은 처음부터 당연한 방향이 아니었다고 함. 내부에서도 큰 베팅이었고 많은 설득이 필요했다고 밝힘.

* OpenAI 연구 로드맵은 자주 뒤집지 않음.

  * 프리트레이닝
  * RL
  * Alignment / Post-training

    이 큰 축은 유지하면서 컴퓨트 배분과 세부 전략만 계속 조정한다고 함.


* 좋은 연구자는 면접만으로 판단하기 어렵고, 보통 6개월~1년 함께 일해야 진짜 실력이 보인다고 함.

* 연구자는 모두 같은 타입이 아님.

  * 구현이 엄청 빠른 사람
  * 말도 안 되는 것 같은 아이디어를 던져 결국 큰 성과를 만드는 사람
    둘 다 중요한 인재라고 설명.

* 현재 AI 업계는 **평가(evals) 위기**라고 표현.

  공개 벤치마크는 너무 많이 최적화돼 실제 성능을 제대로 반영하지 못하는 경우가 많다고 함.

* 그래서 OpenAI는 평가를 만드는 팀과 모델을 학습시키는 팀을 일부러 분리해 운영한다고 함.

* IMO 같은 어려운 문제는 잘 푸는데 쉬운 일은 못하는 이유는, 인간과 AI가 "직관적으로 잘하는 영역" 자체가 다르기 때문이라고 설명.

* 긴 Context도 단순히 window만 늘리면 끝나는 문제가 아니며, 정보를 압축(compaction)하는 기술도 매우 중요하다고 함.

* AGI 이전에도 아직 중요한 연구 베팅은 남아 있지만, 그 기회는 생각보다 크지 않을 수도 있다고 전망.

* 장기 목표 중 하나는 모델이 스스로 연구를 수행하는(Self-sustained research) 단계까지 가는 것.

* 멀티모달은 가능한 한 하나의 모델·하나의 아키텍처로 가는 것이 연구와 인프라 측면에서 유리하다고 봄.

* 앞으로 연구는 사람이 아이디어를 내고 AI가 구현과 실행을 담당하는 **오케스트레이션(orchestration)** 형태가 될 가능성이 크다고 전망.

* 실패한 연구도 가치가 있다고 강조.
  실패 기록이 남아야 다른 연구자가 같은 시행착오를 반복하지 않는다는 것.


마지막 한마디

"아직도 프리트레이닝이 죽었다고 생각하는 사람이 있다면, 나는 오히려 지금 가장 과소평가된 것이 프리트레이닝이라고 생각한다."

— 마크 첸 (OpenAI 최고연구책임자)