뭔가 답변 주는게 가면 갈수록 다운그레이드 된 느낌이 드는데 유료버전 때문에 무료버전 성능을 저하 시킨 건가?
댓글 6
실제로 인터뷰에서 3.5를 출시직후와 비교하여 수십배 경량화 시키는데는 성공했으나 4에서는 이렇다할만한 수준의 경량화를 이루지 못했다고 했음
즉 수십배 멍청해진거 맞음
적절한김대기(221.141)2024-05-10 20:04
답글
성능저하 최소한으로 경량화 하는게 업계 노하우긴 한데 기본적으로 손실압축이라 멍청해지긴 했을거
익명(125.136)2024-05-10 20:08
전세계적으로 3.5사용량이 생각보다 진짜 어마어마하게 많이쓸거임. 그래서 경량화에 초점 맞춰서그런듯.. 아마 10b수준 이하일거같은데
익명(59.17)2024-05-10 20:11
3.5쓸 봐엔 그냥 제미니 쓰는 게 나을걸?
익명(112.161)2024-05-10 20:27
3.5쓸봐엔 그냥 엣지로 무료 gpt4써 3.5는 너무 구림
익명(112.161)2024-05-10 20:28
난 검열 때문이라고 생각함. 검열할 수록 보통 멍청해지니까.
그리고 위에선 경량화를 이야기 하던데, 경량화는 추론 비용을 낮춘다는 말이지, 성능을 낮춘다는 말은 아님.
물론, 보통 성능 하락 없이 낮출 순 없고, 대표적 경량화 방법인 양자화도 하면 조금 성능 내려감.
그래도 비용 경량화 시킨 만큼 성능이 내려가진 않음.
실제로 인터뷰에서 3.5를 출시직후와 비교하여 수십배 경량화 시키는데는 성공했으나 4에서는 이렇다할만한 수준의 경량화를 이루지 못했다고 했음 즉 수십배 멍청해진거 맞음
성능저하 최소한으로 경량화 하는게 업계 노하우긴 한데 기본적으로 손실압축이라 멍청해지긴 했을거
전세계적으로 3.5사용량이 생각보다 진짜 어마어마하게 많이쓸거임. 그래서 경량화에 초점 맞춰서그런듯.. 아마 10b수준 이하일거같은데
3.5쓸 봐엔 그냥 제미니 쓰는 게 나을걸?
3.5쓸봐엔 그냥 엣지로 무료 gpt4써 3.5는 너무 구림
난 검열 때문이라고 생각함. 검열할 수록 보통 멍청해지니까. 그리고 위에선 경량화를 이야기 하던데, 경량화는 추론 비용을 낮춘다는 말이지, 성능을 낮춘다는 말은 아님. 물론, 보통 성능 하락 없이 낮출 순 없고, 대표적 경량화 방법인 양자화도 하면 조금 성능 내려감. 그래도 비용 경량화 시킨 만큼 성능이 내려가진 않음.