왜 요즘에는 성능 떨어진 거야
[일반] 다들 초기 gpt4 얘기 많이 하던데
.(118.235)
2024-03-11 19:56
추천 0
댓글 3
다른 게시글
-
상스럽고 불건전한 특이점갤 [2][일반] 익명(106.255) | 24.03.11추천 0
-
쟤는 본인을 분탕으로부터 나라를 지킨 열사라고 생각하나보다[일반] 익명(grade6665) | 24.03.11추천 9
-
부자들이 자선사업가는 아니지만 미래에 대해 희망적으로 보는 이유[일반] 익명(112.186) | 24.03.11추천 3
-
우리끼리 특이쩜갤러리 새로만드는것도 생각해보죵!! [1][일반] 익명(118.47) | 24.03.11추천 2
-
알트만 시발련아 너때문에 클로드를 못쓰겠잖아 [1][일반] 익명(115.93) | 24.03.11추천 0
-
Gpt5는 클로드3 대비 어느정도일까 [1][일반] 익명(112.161) | 24.03.11추천 0
-
잼민이프로1.5 이새끼 100만토큰 가지고도 환각 일으킴 [2][일반] 익명(110.145) | 24.03.11추천 1
-
주딱은 지금처럼 무대응으로 일관하는게 맞다 [1][일반] 익명(burden7835) | 24.03.11추천 4
-
3.21에 gpt5 오냐? [3][일반] 익명(121.139) | 24.03.11추천 0
-
애플이 앞으로 적어도 ai 쪽에서는 답이 없는 이유 [5][일반] 익명(222.117) | 24.03.11추천 11
검열+게을러지게 시스템프롬프트 박음+양자화
추론 비용이 너무 비싸서 줄일려고 자꾸 최적화 너프시키니 당연히 성능이 하락하지
검열이랑, 추론비용 아끼려고 여러 시도를 한 것 때문 아니냐는 추측이 많지. 추론비용 아끼려는 게, 단순하게 돈 아낀다. 이것보다, 최대한 가볍게 써야 더 널리 쓰이는 것도 많고, api 가격도 내려가니까. 가성비를 찾는거지. 대답이 딱딱해지고 사람 같지 않은 건 검열 탓이라고 보긴 함. 지금 클로드가 유창하면서도 가끔 내뱉는 말이 사람 같이 센스있다. 이런건데, GPT4도 초기엔 유창..은 잘 모르겠지만 센스있는 건 맞았음. 오죽하면 '이렇게 대충 적어도 알아들을까?' 하면서 적어도 다 알아들음. 근데, GPT4는 추론비용 거의 못 낮췄다고 밝혔었고, 5는 어떨까 모르겠네.