[📪정보] 스탠포드, 엔비디아 'TTT-Discovery' 공개

1. 개요

-기존 AlphaEvolve같은 테스트 타임 스케일링 방법들은 고정된 LLM을 사용하여 프롬프트 엔지니어링이나 진화적 탐색에 의존했다.

-하지만 고정된 모델은 자신의 실패로부터 내부적으로 학습하거나 개선되지 못하는 한계가 있음.

-이를 개선하기 위한 TTT-Discovery 를 공개

-테스트 문제 자체를 하나의 환경으로 정의, 단일 문제에 대한 강화학습을 수행함

-테스트에 사용한 모델은 gpt-oss-120b (모델 가중치 자체가 변하므로 오픈 웨이트 모델을 써야함)

-적용 도메인은 수학, GPU 커널 엔지니어링, 알고리즘 디자인, 생물학 4가지 분야

2. 적용 결과

-수학 : Erdos 문제에서 수십 년간 이어진 인간과 AI 기록 갱신

-GPU 커널 엔지니어링 : Nvidia H100 등에서 동작하는 GPU 커널 최적화에서 최고 인간 전문가 및 기존 SOTA 대비 최대 50% 속도 향상

-알고리즘 : AtCoder Heuristic Contest 58 대회 기준 참가자 전원 (인간 포함)보다 높은 점수 기록

-생물학 : 기존 SOTA인 MAGIC 알고리즘 대비 MSE와 Poisson 지표 모두 개선

3. 한줄 요약

-AI가 어려운 과학 문제를 만났을 때, 기존 지식으로만 찍어서 맞추는 게 아닌 '시험 치는 도중에 스스로 공부하고 훈련해서' 세계 신기록을 세우는 방법을 개발함

4. 단점과 한계점

-한 문제당 평균 수백 달러 추론 비용 필요

-명확하고 연속적인 보상 함수를 정의할 수 없는 문제나 도메인에는 적용하기 힘듦

5. 미래 연구 방향

-보상이 드물거나, 단순히 성공/실패로만 나뉘는 문제에도 적용 가능하도록 해야함 (현재는 연속적인 보상 함수 필요)

-검증 불가능한 영역에서도 이 방식이 작동하는 방식을 알아내는 것이 가장 중요함

댓글 5