7. AI의 기술적 어려움:
-더 나은 알고리즘, 더 큰 컴퓨터, 더 어려운 훈련 데이터, 사용자 피드백을 통해 학습하는 더 나은 제품 개발 등이 필요하다.
-향후 2년 동안 AI 모델을 개선할 수 있는 방법을 너무나 잘 알고 있으며, 큰 장애물은 없다.
-앞으로 2년 동안 얼마나 많은 진전을 이룰지 말로 다 할 수 없을 정도다.
-2025년 2월~2027년 2월까지의 발전은 2023년 2월~2025년 2월까지의 발전보다 더 인상깊을 것이다.
-2025년 초의 프로그래밍과 2025년 말의 프로그래밍은 완전히 다른 것이 될 것이다.
AI 발전을 위한 주요 요소로 '더 어려운 훈련 데이터'를 꼽았음
나는 최근 R1 논문 강화학습을 보고 문제의 품질과 난이도가 굉장히 중요한 스케일링 요소가 될거라고 생각했는데,
이번 발언으로 조금 더 확신하게 되는 것 같음
쉽게 수학으로 비유하면 난이도 A,B,C 문제들이 있을 때
사전학습, SFT와는 달리 강화학습에서는 C 문제를 해결하는 것으로 엄청난 성능 향상이 있을 수 있다고 생각함
양보다는 질이 중요하다는 거지 (물론 양도 아주 중요하겠지만)
궁금한건 제일 어려운 C 난이도 문제를 처음 시스템이 해결하지 못하면
인간처럼 A난이도를 먼저 학습시키고 그 시스템으로 B난이도를 깨고 이런 식으로 도장깨기처럼 진행될까
이런 것도 궁금함
그래서 계속 벤치 만들어 달라고 투자하는건가?
나도 그 생각을 예전부터 하긴했는데 설마 치팅하진 않았을거라 믿음. 그만큼 발전 속도가 빠르다고 받아들이는 중
나도 치팅은 안했을거라고 생각함 그냥 강화학습에 필요하니까 벤치 만들어 달라고 투자하는듯 인류의 마지막 시험 이것도 scale ai oai랑 관련있는 회사 아닌가?
걔네도 OAI랑 긴밀하게 협력하는 회사긴하지