[일반] qwen 2.5 32B IQ4_XS 토큰/s

[익명(parrot0303)]

생각보다 토큰 쓰루풋이 그렇게 높진 않은데 4000번대 INT4 처리량 보다는 많이 올랐을듯