[📪정보] 추론 14배 증가는 모델 크기 10배 증가와 비슷함

[Rati(wrap6595)]

https://arxiv.org/abs/2408.03314

https://arxiv.org/abs/2104.03113

ARC-AGI에서 나온 o3 low와 o3 high의 추론 컴퓨팅 172배 차이

대략 사전학습된 모델 크기 120배 차이임 (저 트랜드가 큰 범위에서도 지속된다 치면)

그러면 밴치마크에서 옅은게 high 추론이고 진한게 low 추론이고

서로 차이가 많이 나는거처럼 보이는게 말이 될듯

[Joyful(approve1515)]