머스크는 “AI GPU 개발 속도를 고려할 때 1기가와트(GW)의 에너지를 소비하는 H100 GPU 클러스터를 오랫동안 유지할 가치는 없다”라며 “몇달 안에 10만개 H100으로 구성한 GPU 클러스터를 구축하지만, 내년 여름에는 30만개의 B200으로 업그레이드할 것”이라고 설명했다.  

엔비디아의 새로운 블랙웰 B200은 H100에 비해 훈련 성능은 4배, 추론 성능은 30배 향상된 첨단 AI 칩이다. 기술적으로 B200은 H100보다 더 많은 전력을 소비한다. 그러나 B200의 엄청난 성능 향상으로, 결국 H100보다 훨씬 효율적이다. 

출처 : AI타임스(https://www.aitimes.com)


하드웨어에서 조만간 구글,오픈ai 따라잡을듯