추론이 곧 학습이다


또 하나의 큰 변화는 LLM 사전 학습에 사용되는 데이터의 출처가 달라지고 있다는 점입니다. 기존에는 대부분 데이터를 구매하거나, 웹에서 스크래핑을 하거나, 기존 LLM을 활용하여 합성(Synthetic)하는 방식으로 확보했습니다(디스틸링 혹은 데이터 증강).




이제 이러한 추론(reasoning) 시스템을 통해 “진짜” 데이터를 생성할 수 있게 되었습니다. 기존의 “합성(Synthetic)” 데이터라는 용어가 의미했던 것과 달리, 저품질의 재활용 데이터가 아니라 정말 유의미한 데이터를 만들어낼 수 있다는 것입니다. 여기에는 검증기를 포함해, 오프라인에서 개발자가 직접 비용을 내고 데이터를 생성하거나, 혹은 추론 과정에서 유저들이 비용을 지불하는 방식을 통해 데이터가 생성될 수 있습니다.




이것은 매우 흥미로운 경제적 변화이며, 가장 많은 사용자들을 보유한 AI 시스템 개발사에 권력이 집중될 수 있다는 시나리오를 시사합니다. 왜냐하면 사용자가 추론 비용을 부담하면서, 그 과정에서 고품질 데이터를 생성하면, 모델은 이를 통해 더욱 학습이 이루어지고, 그 모델이 더 우수해져서 더 많은 사용자를 끌어들이고, 결국 선순환이 일어나기 때문입니다.




만약 인간 전문가 CoT 장벽을 깨뜨리고, 탐색/합성과 검증을 통해 새로운 데이터를 매우 효율적으로 만들어낼 수 있는 시스템을 구축할 수 있다면, 우리는 결국 이 추론 시스템에 막대한 연산 자원을 투입하게 될 것입니다. 이런 방식의 AI 학습이 결국 인간이 만든 데이터로부터의 사전 학습을 넘어서는 주류 학습 방식이 될 가능성이 높습니다.






강화학습과 추론 시스템을 통해  모델 성능을 높이는 선순환 구조를 만들었고 




이건 다음 단계일뿐입니다.

더 많은 것들이 나올거에요.

(Operator와 Deep Research는) 지식을 종합하는 것입니다. (synthesizing knowledge)

AI는 결국 새로운 지식을 발명해낼 수 있을거에요.

저희는 이것이 엄청난 일이 될 것이라고 생각합니다."




이 높아진 모델 성능을 기반으로  에이전트가 돌아가면 

연구 자동화가 시작이고 이게 곧 agi임