거 돌리려면 pc가 아니라 랙을 구성해야함요... 감당 ㄱㄴ?
내 생각보다 더 들어가나보네 대충 천만원정도면 가능?
아녀 택도없습니다
꺅 저번에 갤보니까 로컬로 3080정도면 o1mini급 가능하다고 들었는데 아닌가보네
딱 하나 방법이 있긴할듯. 5월즘에 엔비디아 디지트라는 개인용 ai머신 출시하는데 3개를 엮는게 가능하다면 양자화(경량화)한 r1 돌릴수 있을듯. 디지트 1개당 가격은 400쯤 할듯.
그 o1미니하고 o1원본은 덩치차이가 졸라 클거에요. 또 o1미니급 오픈소스는 경량화도 엄청 되어있는 상태일거고.
나도 다시 찾아보니 극한으로 사이즈 줄인 r1이었어. 너 전문가구나 고맙다
하여튼 디지트 3개 엮으면 통합램이 390기가쯤 되니까 간신히 될거같기도 함.
글카에만 억단위투자하고 돌린다해도 전기누진세 감당불가일듯
글쿠만.. 내가 잘못 알은듯
거 돌리려면 pc가 아니라 랙을 구성해야함요... 감당 ㄱㄴ?
내 생각보다 더 들어가나보네 대충 천만원정도면 가능?
아녀 택도없습니다
꺅 저번에 갤보니까 로컬로 3080정도면 o1mini급 가능하다고 들었는데 아닌가보네
딱 하나 방법이 있긴할듯. 5월즘에 엔비디아 디지트라는 개인용 ai머신 출시하는데 3개를 엮는게 가능하다면 양자화(경량화)한 r1 돌릴수 있을듯. 디지트 1개당 가격은 400쯤 할듯.
그 o1미니하고 o1원본은 덩치차이가 졸라 클거에요. 또 o1미니급 오픈소스는 경량화도 엄청 되어있는 상태일거고.
나도 다시 찾아보니 극한으로 사이즈 줄인 r1이었어. 너 전문가구나 고맙다
하여튼 디지트 3개 엮으면 통합램이 390기가쯤 되니까 간신히 될거같기도 함.
글카에만 억단위투자하고 돌린다해도 전기누진세 감당불가일듯
글쿠만.. 내가 잘못 알은듯