[❓질문] 노트북 내장그래픽으로 Ollama 딥시크 돌려본사람 질문

[딥삣삐(222.121)]

Galaxy Book 3 360 Pro 쓰는중이고 컴퓨터 사양이 32GB RAM에 내장그래픽 장착 중임

(작업관리자 피셜 VRAM 16GB라는데 외장이랑 비교해서 성능 어느 정도 되는지는 몰루)

AI deepseek-r1:7b랑 deepseek-r1:14b 둘 다 써보는데 뒤지게 느림

원래 이러냐

[익명(106.101)]

빠르면 이상한거 아니겠냐 연산이 뒤지게 느릴텐데 동일한 vram이여도 flops에 따라서 한글자 뱉는데 10초가 걸릴수도있고 10분이 걸릴수도있는건데

[익명(106.101)]

로컬 llm은 최소 70b정도 모델 돌릴정도아니면 전기낭비임

[글쓴 딥삣삐(222.121)]

gpt 요금 존나 나와서 갈아탈까 하고 로컬 llm이랑 온라인deepseek 이것저것 테스트하고 있었다

[딥삣삐 1(49.165)]

개인은 그냥 gpt 22달러 이상의 가성비를 LLM으로 뽑아낼수없음 불가능함

[익명(39.7)]

맥북프로 기준으론 qwen2.5 7b 나쁘지않게 돌아가던데

[딥삣삐 2(14.40)]

m1 pro 깡통인데 1.5B 정도는 돌릴만함 ㅋㅋㅋㅋ 성능은 쓸 건 못되는거같음