[일반] tpuv7쓴다고해도 성능자체가 올라가는건 아니잖아

[익명(121.182)]

더 빠른추론을 더 싸개 하는것뿐 아닌가?

그럼 구글은 더 큰사이즈의 모델을 만들어야하는거 아님?

[익명(ounce1352)]

스케일링은 이제 한계 보인지 오래라서 솔직히 가격 떨궈주는게 제일 이상적이지

[익명(compact5711)]

GPT-4.5나 Opus 4급의 묵직한 모델들을 2.5 플래시 가격에 쓸 수 있다 그러면 글쓰기 필요한 사람들 감동의 눈물 흘릴 듯

[ㅇㅇ 1(210.97)]

토큰당 비용절감에 좋음

[ㅇㅇ 2(14.38)]

추론 서비스를 엄청 효율적으로 할 수 있고 그러면서 학습이나 기반 모델 연구에 사용할 gpu에 여유가 생기게 하는 효과가 있음. 물론 추론 스케일링 자체에도 도움이 되고