적어도 지금 상황에서 로컬 LLM이라는 건 환상임

[TS기원(tsgiwon)]

집에 VRAM 512GB짜리 워크스테이션이나 준하는 유니파이드 메모리가 있다면 인정하는데

끽해야 128GB 선에서 돌릴 수 있는 로컬 모델들로는 죽어도 클라우드 LLM 못 따라감

64GB짜리 맥스튜디오로 한참 돌려봤지만 Gemini 2.5 flash가 성능 가성비 속도 컨텍스트길이 등 모든 면에서 월등해서 바로 맥스튜디오 팔았음