[일반] Local llm 작게 돌려볼려는데 타당한지 봐주십쇼

[익명(118.235)]

여기에 램 ddr5 128gb(64 두개) 달고 3090 중고 두개 달려고 합니다.

지금은 뭐 아무것도 몰라서 그냥 ollama 로 모델 아무거나 돌리는중.

보통 취미로 하면 환경이 어떻게 되십니까

[강남백수(barn9008)]

ram512 + rtx pro 6000

[딥삣삐 1(14.46)]

로컬 llm 하면 어떤 장점이 있나요~? - dc App

[강남백수(barn9008)]

빌드하고 신 모델 써보는 재미죠. 레고 가지고 노는 느낌