[일반] 로컬모델이 꽤 쓸만해지고있다고함

[익명(59.16)]

https://www.reddit.com/r/LocalLLaMA

Reddit - Dive into anything

여기 인기글 위주로 보면

미스트랄 모델이라던가 이런거 7B(6GB 메모리를 가진 그래픽카드에서 구동가능한 모델) 파라메터인데도

GPT 3.5보다 낫다는 분위기

3개월 전쯤에는 그래픽카드 비싼거 있어야 했는데, 파라메터의 크기를 줄이면서도 성능은 유지시키는 방법이 오픈소스에서도 열심히 연구되고 있는듯

[디시콘발사대(fcbjsjmu1t9f)]

[은바다(nmra3fmzhxmg)]

[ㅇㅊ(cleep00001)]

[천사다천사(jjtheman999)]

진짜 저런거 만들어 주시는 분들이 너무 고맙다 - dc App