[일반] 70b모델이랑 유료 구독이랑 성능은 하늘과 땅 차인가?

[익명(122.35)]

로컬 LLM 돌리는거랑 

성능 면에서 완전히 차이가 나려나?

[ㅇㅇ 1(60.150)]

로컬에서 70b 돌릴려면 메모리 64GB는 되야 하지 않나. 그 돈 주고 시스템 구축할 바에는 그냥 구독하는 게 낫지 않아?

[글쓴 ㅇㅇ(122.35)]

그치그치 지금 시점에는 하드웨어 구축에 돈이 많이 들어서.. 하지만 궁금한걸? 직접 돌려보고 싶음 ㅋㅋㅋ...

[ㅇㅇ 2(220.65)]

맥북이면 700 선에서 컷 가능. 근데 구독료 내는게 훨싸다

[냥쓰(kalstein)]

local 70b면 llama3.3 인가요. 48기가로 돌릴수있는 한계치라 3090 2대로 가능합니다. 근데... gemma3가 잘 나와서요. - dc App