[일반] 멀티모달 추론에서 3.0 성능 체감이 팍팍 되네

[익명(balloon9402)]

일단 파일 자체도 더 잘 읽고 잘 추론함

그리고 가장 체감되는건, 추론 토큰이 적어지고 더 효율적으로 변했다는 느낌?

예전에는 좀만 대화 쌓여도 7만토큰 되면서 환각파티 시작인데 지금은 순수 대화로만 3만토큰 넘기가 힘듦. 토큰이 적게 쌓이다 보니 성능 저하도 훨씬 덜한 느낌.

[익명(advise7629)]

pdf 같은거 해보면 ㄹㅇ 급이다름 이미지도 마찬가지고

[익명(balloon9402)]

ㅇㅇ 둘 다 압도적으로 체감됨 뭐 OCR이 더 좋아졌다 이런게 아니라 그냥 그 상황 인지능력 자체가 떡상함

[익명(dlsjftldk)]

ㄹㅇ로 진짜로 눈알 달고 보는느낌듬, 이전에는 그냥 ocr 로 텍스트로 설명을 보는 느낌이었다면