모델이 커지면서 모델이 낼 수 있는 최대 성능 자체는 증가했지만 그 성능을 끌어낼 방법이 없던 찰나에 나온 개념이


CoT, MoE 등등이고 이 개념을 학습 과정에 적용시킨게 추론모델임

추론모델의 특징은 ttc 가 늘어날수록 성능이 올라간다는게 경험적으로 확인되어있는데


이건 위에서 말한 '모델 성능의 최대치를 이끌어내는'거지 실제 모델의 성능이 올라가진 않음


이런 추론모델들 논문에서 보이는 말들이 'TTC를 늘리니까 성능이 올라가고 그 곡선이 완만해짐을 확인할 수 없다' 인데

시간을 아무리 줘도 성능 향상이 미미해지는 부분을 숨김 ( 모델 성능 한계 )

( 이게 됐으면 벌써 코드포스 1등 먹었겠지 )


만약 성능향상이 선형적으로 혹은 지수적으로 무한하게 이루어질 수 있다면 이미 그게 AGI고 ASI임


구글의 재귀개선은 output 퀄리티가 에이전트간 재귀적인 티키타카를 통해서 개선된다는 말이지


모델의 성능이 개선되서 올라가진 못하므로 한계가 명확하며 이걸 재귀개선이라고 말하는 건


어그로용 과장에 불과하다는 거임