[일반] 로컬 ai 돌려본 후기

[익명(14.56)]

기기는 맥 스튜디오 m3 울트라 96기가 

gpt-oss 20b 는 좋음 빠름 

120b 는 대답은 졸라 빠름 근데 사이트 주소 주고 최근글 2개 긁어오라고 하니 존나 오래걸림

로컬로 돌릴 필요가 있나 싶은데 점점?

[ㅇㅇ 1(175.199)]

120b 가 진짜 빠른 모델임 ㅋㅋㅋ

[만유귀종(t9f8mf545nan)]

돈=성능인 ai 특성상 로컬은 쩔수긴한듯 그냥 커스텀용 검열없다도르 정도에서 가지고노는정도

[ㅇㅇ 1(175.199)]

근데 나도 그런 기본적인게 안되서 사용을 못하겠더라 ㅋㅋ

[ㅇㅇ 2(59.6)]

보안아니면 뭐 필요없지 그렇게 보안필요한게 개인한테 있나 싶고

[글쓴 ㅇㅇ(14.56)]

굳이 스튜디오까지 살필요 있음? 걍 미니 사서 api 돌리는게 더 싸다고 확정지었다. 일주일 쓰고 환불해야겠어

[롯데정대현(ksb9025)]

램 몇기가임?

[글쓴 ㅇㅇ(14.56)]

96기가