[일반] 인트라넷에서 LLM을 굴리려면 서버에 얼마정도 써야하냐?

[결함인(rkddlfdl2292)]

냉무

[익명(222.98)]

최소 500

[익명(fantasy2704)]

로컬모델 쓰면 얼마 안됨

[익명(jonnsmith)]

요구사항을 먼저 정의해야지

[Eric.A.Blair(skyhuman13)]

핸드폰도 로컬모델 돌려요 어떤 업무를 어느 규모로 할지에 따라 달라지지요 - dc App

[1234opqr(career0741)]

단순 대화는 4090 두장이면 무난 하던데