https://x.com/reach_vb/status/1881319500089634954


성능이 좋다는 얘기가 있더라.

나도 내 맥에서 돌려보려고 llama.cpp로 gguf로 변환해서 돌려봤는데 계속 이상한 토큰만 뱉음ㅅㅂ 나는 왜 안되냐 뭔가 따로 설정할게 있나


추가)

요 모델을 돌려볼 수 있는 코랩 노트북 링크 가져옴.

Google ColabGoogle Colabcolab.research.google.com


https://colab.research.google.com/github/Vaibhavs10/notebooks/blob/main/deepseek_r1_distill_qwen1_5B_transformers.ipynb