세계최대클러스터로 훈련한 베이스모델 성능향상폭이 딥식이 v3보다 33~33.5% 상승
여기에 추론달면 o3-mini high랑 비슷해짐
이것이 스킬이슈인가? 그렇게볼건 아닌게 2년만에 SOTA 달성한 기술력임
그말은뭐냐, GPU를 단순히 많이가 아니라 "매우 많이" 때려박아야 한다는거임
전세계 모든 GPU를 한곳에 집중시켜도 베이스모델 상승폭은 미미할수있다는거임. 하지만 어쨌든 성능은 상승할거임
세계최대클러스터로 훈련한 베이스모델 성능향상폭이 딥식이 v3보다 33~33.5% 상승
여기에 추론달면 o3-mini high랑 비슷해짐
이것이 스킬이슈인가? 그렇게볼건 아닌게 2년만에 SOTA 달성한 기술력임
그말은뭐냐, GPU를 단순히 많이가 아니라 "매우 많이" 때려박아야 한다는거임
전세계 모든 GPU를 한곳에 집중시켜도 베이스모델 상승폭은 미미할수있다는거임. 하지만 어쨌든 성능은 상승할거임
블랙웰 안파는 십슨황이 문제다
걍 스윗스팟 더 넘게 돈 때려박아서 따라잡은 건데 딥브삼 파라미터가 671이었나 그록삼 파라미터 얼마지 1.2T 나온 짤 그건 환각짤이라던데 맞으면 스케일 고작 2배 차이임