[🔨활용] 혹시 AI 로컬에 세팅해서 쓰는 사람 있음?

[익명(175.197)]

https://www.youtube.com/watch?v=su2qmgY7-YI

왜

클로드 코드 맥스 쓰기엔 너무 부담되고 이런 거 보니까 컴터 하나 사서 로컬에 클로드 코드 세팅할까 하는데
실제로 이렇게 쓰는 사람 있나 해서 물어봄

[익명1(grocery8445)]

성능 감당이 되겠냐고

[강남백수(barn9008)]

oss-120b 연결해서 에이전트 테스트 해보고 있는데 성능이 많이 부족함.

[ㅇㅇ 1(183.91)]

와.. oss-120b 이거 글카 한 4개 붙여야 사용가능한거 아니에여? 근데도 부족해여?

[강남백수(barn9008)]

@ㅇㅇ1(183.91) rtx pro 6000 한장으로 되요

[ㅇㅇ 1(183.91)]

@강남백수 와,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,

[냥쓰(kalstein)]

oss-120b 도 그냥 챗봇수준에서 쓸만한거고요... 비즈니스급으로 오픈소스에서 쓸만하려면 200b,300b 가야된다고 합니다. 그러니 그냥 프런티어 모델쓰는게 퀄리티 좋고 싼거죠 ㅎㅎ