7. AI의 기술적 어려움:


-더 나은 알고리즘, 더 큰 컴퓨터, 더 어려운 훈련 데이터, 사용자 피드백을 통해 학습하는 더 나은 제품 개발 등이 필요하다.


-향후 2년 동안 AI 모델을 개선할 수 있는 방법을 너무나 잘 알고 있으며, 큰 장애물은 없다.


-앞으로 2년 동안 얼마나 많은 진전을 이룰지 말로 다 할 수 없을 정도다. 


-2025년 2월~2027년 2월까지의 발전은 2023년 2월~2025년 2월까지의 발전보다 더 인상깊을 것이다.


-2025년 초의 프로그래밍과 2025년 말의 프로그래밍은 완전히 다른 것이 될 것이다.




AI 발전을 위한 주요 요소로 '더 어려운 훈련 데이터'를 꼽았음


나는 최근 R1 논문 강화학습을 보고 문제의 품질과 난이도가 굉장히 중요한 스케일링 요소가 될거라고 생각했는데,


이번 발언으로 조금 더 확신하게 되는 것 같음



쉽게 수학으로 비유하면 난이도 A,B,C 문제들이 있을 때


사전학습, SFT와는 달리 강화학습에서는 C 문제를 해결하는 것으로 엄청난 성능 향상이 있을 수 있다고 생각함


양보다는 질이 중요하다는 거지 (물론 양도 아주 중요하겠지만)



궁금한건 제일 어려운 C 난이도 문제를 처음 시스템이 해결하지 못하면


인간처럼 A난이도를 먼저 학습시키고 그 시스템으로 B난이도를 깨고 이런 식으로 도장깨기처럼 진행될까


이런 것도 궁금함