[일반] 한국어 잘하는 중국 7b 모델이나 보구가

[익명(dlsjftldk)]

님들 컴에서도 다 돌릴수있는 7b 모델 qwen 에서 나왔는데 한국어 잘하더라

(cpu 만으로도 잘 돌아감 gpu 로는 쌩쌩돌아가고. gpu 에서 돌리려면 vram 6기가 이상이면 됨)

context 도 100k 라서 가지고 놀기 좋을듯

mmlu 는 70정도 (gpt 3.5 수준 모델인듯)

 

심심할때 가지고 놀거나 번역용으로 괜찮은듯 

openai 이번발표 번역

qwen2 72b 모델은 성능 좋지만 컴에선 못돌리고

7b모델이 재밌다

[익명(118.235)]

이거 혹시 프리셋 따로 만짐?

[익명(dlsjftldk)]

엥 기본프리셋으로 했는뎅...

[익명(172.226)]

난 이거 해보니까 GGGGGGGGGGGG3333333333 이지랄 나는데 왜그런거임

[익명(dlsjftldk)]

q5_k_m 모델 썼음? 나는 q5 밑으로는 잘 안내려감