[일반] 성능충이면 로컬모델은 아무래도 계륵인가

[은돌퍼플(phybeube)]

흑 뭔가 애매해

[ㅁㄱㅌㅊ(39.122)]

llm은 api 쓸 수 있으면 로컬 쓸 이유가 없음

[은돌퍼플(phybeube)]

그러게요

[ㅁㄱㅌㅊ(39.122)]

@은돌퍼플
https://huggingface.co/yanolja/YanoljaNEXT-Rosetta-12B-2510
그나마
번역쪽에 쓸만한 게 이건데 이것도 크기 생각했을 때 쓸만하다는 거지 상용 api에 비하면 한참 떨어짐 그래도 젬마3 27b보다도 확실히 좋긴 함
코히어것도 좋다고는 하는데 100b 넘어가서 개인이 돌리긴 많이 빡쎼고...

[ㅇㅇ 1(222.118)]

지금 로컬로 쓸만한게 그나마 야짤용 wan2.2임. LLm과 이미지는 못써먹을 수준 그록 이매진 나왔을때 wan조차도 끝난줄 알았는데 부활함

[은돌퍼플(phybeube)]

굿ㅋㅋ

[가나밀크티(ganamilktea)]

딸숭이는 항상 승리한다

[ㅇㅇ 2(211.35)]

솔직히 llm은 로컬 쓸 이유 없는듯 그냥 api로 탈옥하면 되니 - dc App