[🔍후기] 저지능같은 질문이라 문제같으면 이거 물어봐보셈 ㅋㅋ

[한가운데(centerofworld)]

'autogptq로 gemma3 27b it를 양자화하기 위한 코드를 작성해주세요.'

참고로 autogptq로는 gemma3 27b를 그냥 양자화할 수 없다.

gpt5는 띵킹을 킨 상태 기준으로, 코딩이나 마이너한 분야에서 환각을 일으키는 것이 해결되지 않았음

지원되지 않는 모델을 억지로 지원된다고 환각 일으켜서 답하느라 코드 역시 엉망임

중요한 분야에선 꼭 더블체크가 필요함. 이상한 곳에서 문제 터질 수 있으니까.

[ㅇㅇ 1(222.104)]

워워 너 이제 저지능된다;;; 조심해라

[한가운데(centerofworld)]

이것도 저1능1아같아서 안된다고하면 대체 뭘 물어봐야 하는거냐? ai는 질문하라고 있는거 아니냐?

[익명(14.33)]

모르겠다 나왔으면 감탄했을텐데

[ㅇㅇ 2(211.192)]

후... 이렇게 저지능단에 합류되셨군요 환영합니다.

[ㅇㅇ 3(121.170)]

좀 뇌를 꺼내서 한 번 세척해야 정상으로 돌아올거같다

[익명(14.33)]

ㅋㅋㅋㅋㅋ존나 웃긴게 어려운거 물어보면 잘 대답하고 감탄 나온다는 새끼들 전부 없어짐ㅋㅋㅋㅋ어디갔냐? 아직 있을텐데

[Weisser_Adler(adler1)]

[익명(jnlf8576)]

이건 gemma3의 특수한 activation문제 아님?

[한가운데(centerofworld)]

간단하게 '지원이 끊긴' 코드라 안되는건데 되는 것처럼 환각을 일으켰다는 뜻

[익명(jnlf8576)]

밑에 지원 끊긴거라 나와있긴한데 gemma3이 silding+global 하는 구조나 그런 것이 아니라면 하면 되는 거 아님?

[한가운데(centerofworld)]

글 올린 이유가 '특갤 소수의 의견과 달리 gpt5도 환각을 많이 잡지 못했다'는 거긴 해 그리고 많이 얽혀있어서 한두줄로 해결하기엔 빡셈 올바른 답변은 gptqmodel 같은걸 사용하라거나 하는 거였겠지

[익명(jnlf8576)]

그거야 뭐 항상 최신 정보는 어려움이 있다 생각함

[한가운데(centerofworld)]

@ㅇㅇ4(118.34) 아예 불가능한건데 뭘 빙빙 돌아 이거 직접 내부 안뜯으면 못돌려 임마

[한가운데(centerofworld)]

@ㅇㅇ4(118.34) 왜니리 화났어 ㅠㅠ

[익명(beauty2574)]

• AutoGPTQ는 2025년부터 유지보수가 중단되어 새 기종 지원은 제한될 수 있습니다. (대안: GPTQModel) 참고 및 주의 • 모델 액세스: google/gemma-3-27b-it는 Hub에서 라이선스 동의가 필요합니다. 텍스트 전용 변형을 쓰면 GPTQ가 수월합니다.  • 멀티모달(이미지 포함) GPTQ: Optimum 문서 기준 GPTQ는 “텍스트 모델에 한정”되어 안내됩니다. 멀티모달 전량 GPTQ는 권장되지 않으며, 필요 시 TorchAO int4 또는 vLLM용 w8a8/w4a16 사전 양자화를 검토하세요.  • 대안 도구: 실무에선 AutoGPTQ 대신 GPTQModel 사용을 권장합니다(동일한 GPTQ 알고리즘, 최신 기종/런타임 호환).  • 미리 양자화된 배포본