[일반] o3 환각은 경량화+정렬이 복합된 문제라고 봄

[익명(compact5711)]

경량화 그 자체도 영향이 있을거고, 경량화 하면서 성능손실 줄이려고 몸 비틀었을텐데 그러면서 환각이나 보상해킹 같은 정렬파트에 영향이 있는지보다 성능을 끌어올리는 것에만 집중했을 것이고, 결과적으로 환각이 늘어난거지

실제로 각종 테스트 대충 했다잖어

[익명(chin6807)]

경량화는 진짜 에바인게, o1도 o1-preview보다 경량화된 모델인데 성능은 더 좋아졌고, o3도 결론적으로는 4o 기반인데 가끔가다 4o도 맞추는 간단한 비교를 o3을 틀리기도 함

[익명(compact5711)]

잘 하면 문제가 없으니, 경량화에 죄를 다 씌워버릴 수는 없을 듯 ㅇㅇ

[메론맛콜라가먹고싶어(victim4811)]

gpt5 미뤄지면서 어떻게든 명분쌓기용으로 급하게 출시한 티가남

[익명(compact5711)]

ㅇㅇㅇㅇ

[ㅇㅇ 1(125.180)]

강화학습의 문제일지도? 추론과정에서 좀 기만적인 모습을 보이는 면이 보상관련 문제일지도 모르겠음

[익명(compact5711)]

ㅇㅇ o3는 보상해킹도 잦다 그러더라