[🐣질문] 로컬 llm 써본사람 있음??

[익명(mystery5520)]

코드 리뷰 시키거나 빠르게 구글링하는 용도로 쓸건데 괜찮나

qwen coding

glm

좀 끌리는데 맥미니로 이론상 가능하다곤 하던데 후기가 제대로된게 잘 안보임

[인셍망함(account5535)]

간단한 번역 외에는 기대한 성능 안나올 가능성 농후 특히 코딩에 발끝이라도 담구려면 절대

[Indie 1(61.34)]

vram 32기가 정도 장비 가지고 있으면 나름대로 도움될만한 무언가를 돌릴 수는 있음. 단 상용 LLM같은걸 기대하진 못함

[Indie 1(61.34)]

(잘 돌아간다면) qwen3.6 26b나 gemma4 31b를 써보셈

[익명(tidy7829)]

그게 됐으면 모든 회사에서 사내 llm 만들었을듯

[Indie 2(58.234)]

llm초기에는 로컬llm이 돈좀들이면 그래도 성능이또이또이하게나왔는데 지금은 돈 ㅈㄴ때려박아도 3만원짜리 구독용llm보다 구림 로컬llm하던새끼들 작년에 돈날렷다고 우는소리 ㅈㄴ했음

[건스티오(175.120)]

코드 리뷰...생각보다 중요함.. 가장 좋은 모델 써야함.올레마 그냥 깔고, 오픈코드 연결해보면 답이나옴..오픈 모델은 개 쓰레기임.. (그냥 잘나가는 회사들이 싸논 응가 수준임)상용 모델이 사고로 유출되서 공개되기만을 바래야함..사실 현재 에이전트와 모델을 같이 보유하고 있는 회사는 별로 없음.. 클로드 or 오픈AI or 구글 정도.... 솔직히 제미나이는 왜쓰는지 모르겠고, 머스크가 커서인수해서 뭐 해보려지만 아직 갈길멀고..선택지가 클로드 or 오픈AI 2개밖에 없음...

[익명(rjackson)]

최근에 관련 아티클 봤는데 한 800만원짜리 머신 쓰면 작년 프론티어 모델 수준정도 나온다고 하더라 그냥 돈주고써라

[익명(midtics)]

GLM 이 ㅈ으로 보임? ㅋㅋㅋ

[김메가(scw973108)]

본인쟝 맥미니 m4 32GB 램으로 해봤엇는데, 일단 손익분기점 절대 못넘김. 보안 측면에서 외에는 장점 1도 없음

[포라이(macdoongs)]

존나 비쌈

[서하랑(treest)]

구조상 상용화된 애들 발끝도 못 따라감