Gemma4 31B (Q4_K_M) KV캐시 IQ4_NL로 단일 5090으로도 최대 컨텍스트 크기 (256K) 가능한데 KV캐시 양자화 낮춘거 품질하락 체감도 없음
[일반] 터보퀀트 (로테이션 액티베이션) 미쳤네 ㄷㄷ
익명(parrot0303)
2026-04-26 10:47
추천 0
댓글 1
다른 게시글
-
램오버 이정도로 써도 되나요? [6][❓질문] 익명(118.222) | 04.26추천 0
-
amd 9000클럭 입갤 [4][일반] 당근빳다죠(jeonmin00) | 04.26추천 0
-
엣디<-최고의 pdf뷰어 [1][일반] Союз.(malzaahr11) | 04.26추천 0
-
킹뱅크 초-고수율 램 검증완료[일반] 익명(qasdzxc1321) | 04.26추천 0
-
너네 6000 30 expo램도 따로 더 땡겨서 쓰냐? [4][일반] 이코이코(blessed7627) | 04.26추천 0
-
실베글인데 니들도 함봐라 무서울 정도노 [1][일반] 익명(222.107) | 04.26추천 0
-
쿨러마스터 atmos 2 스텔스 나온다고함 [4][📰뉴스] 익명(222.107) | 04.26추천 0
-
아악 바이오스 업뎃하고 1:1 expo로 바꿔야겠네 [3][일반] Союз.(malzaahr11) | 04.26추천 0
-
듀얼오리 고민만 한달했는데 결국하네 [25][일반] 당근빳다죠(jeonmin00) | 04.26추천 0
-
듀얼글카 거지에디션 드래곤볼 완료 [4][일반] 당근빳다죠(jeonmin00) | 04.26추천 0
뭔소리여 ㅅㅂ