[토의] LLM 로컬로 돌리려면 어떤게 좋을까요?

[싱글네리티(increase4892)]

가성비는 M4 맥미니가 좋다고는 하던데, 대충 300정도면 그냥 조립컴이 나을까요? 혹시 좋은 가이드나 되는 사이트나 자료 또는 유튜브 있으면 추-천좀 부탁해요~

[ㅇㅇ 1(125.128)]

이분야는 맥스튜디오 1등이고 곧 엔비디아 스파크 스트릭스 헤일로 나올테니 기다려야

[싱글네리티(increase4892)]

아 엔비디아에서 뭐가 또 나오나 보네요

[Bezelshages(longsword0716)]

근데 로컬로 뭐하게

[냥쓰(kalstein)]

취미로 하기엔... 좀 비싸긴합니다. 하드웨어 가격들이 ㅎㅎ;;; (특히 gpu가격이 미쳐날뛰어서) 보안때문에 사용못하는 경우 아니라면 상용ai모델들이 압도적으로 가성비가 높습니다.