[일반] 개인 수준의 로컬모델 튜닝은 점점 효율이 사라지는거 같음…

[바다기린(hancomputer)]

예전에는 도토리 모으는 다람쥐마냥 로컬모델 뜨면 싹 다 다운받고 만지작 거리면서 놀았는데

이젠 로컬모델에서 특화시킨 분야에서조차 대기업 호스팅 모델들이 걍 더 좋네…

개인튜닝 로컬모델이 특정 분야에서만 2점이고 나머지가 1점이라면

서버 모델은 그냥 다 4점인 느낌

[익명(shore1232)]

[바다기린(hancomputer)]

난는,,, 능이버섯이다,,,,

[야하이잇(dignity123)]

추론 나오면서 더 심해짐

[익명(model9051)]

[익명(entry3620)]

Gpu 브램만 512gb 이러면 로컬모델도 4점될텐데..

[바다기린(hancomputer)]

[해당 댓글은 삭제되었습니다.]

해당 댓글은 삭제되었습니다.

[디시콘발사대(fcbjsjmu1t9f)]

뒤쳐지더라도 존재해야 견제가 되는 오픈소스..

[멘토스(gblzvhbddpj2)]

[ㅇㅇ 1(125.128)]

로컬은 일반컴에서 써봤자 14b 수준이니 못씀

[ASI교총대주교좌석좌주교(7i3eogmeun4l7)]

모델 사이즈에서부터 밀리니까.. r1 같은 400b이상 모델 굴려야하는데 기업이 아니면 파인튜닝이 힘들지.

[디시콘발사대(fcbjsjmu1t9f)]

https://m.dcinside.com/board/thesingularity/672783