[일반] 이거 5~6개 있어야 딥식 풀버전 돌릴 수 있는거였네

[익명(222.96)]

671억개 파라미터 모델이 404GB 용량이던데 

80GB 그래픽카드 5~6개 정도 있어야 돌릴 수 있겠네 



404GB 가 안되는 축약버전은 완전체가 아닌지라 

추론 정확도가 좀 떨어진다고 함





학습이 다 된게 404GB 짜리니까 

그 이전에 학습하는데 쓰는 시스템이나 

자금 투입 규모는 당연히 익히 알려진대로 

수십억원은 물론 훨씬 더 그 이상이겠네 




참 봐도봐도 넘 빡신 분야인거 같다 

익히 알려진 쓸만한 모델들은

돈을 물처럼 쓰듯이 쓸 수 있는 규모에서나 

나올 법한 아웃풋들이겠다 

[디시콘발사대(fcbjsjmu1t9f)]

엔비디아 Digits

[익명(222.96)]

[익명(59.24)]

이번에 황회장이 설명한 개인용 ai컴퓨터 2대로 거능한거 아니냐? 대당 대충 44, 2대 880~1,000

[익명(222.96)]

그거 두개 합해도 256GB 라서 풀 모델은 못돌리네 축소버전은 돌아갈듯

[익명(59.24)]

4대면 가능하긴 하네 효율 ㅈ박았네 ㅋㅋㅋㅋ

[천재(210.222)]

게임용으로 쓸만해?

[익명(222.96)]

게임용은 굳이 저거 안사도 되나봐 게임사에서 더 낮은 v램 제품을 기준으로 최적화 하는듯

[익명(14.35)]

증류버전 많자나