[일반] 맥미니로 qwen 3.6 27b q6 속도 괜찮은데?

[oo2(crystal4075)]

거의 30토큰 나오노?

MTP모델이고, 192컨텍스트하니깐 램은 거의 56기가 먹네 ㄷㄷㄷ

[익명(sudden9813)]

q5면 더빨리 나올걸

[oo2(crystal4075)]

굳이 낮출 이유가 없어성.... 딱 64기가 마지노선인듯;;

[익명(sudden9813)]

@oo2 속도도 중요하니깐..mlx모델인지도 체크해봐

[ㅇㅇ 1(126.203)]