[📪정보] GH200 개쩌는데 왜 관심이 없지?

[라익(v8159841v)]

DGX GH200은 그레이스 호퍼 칩 256개를 초당 230TB 대역폭의 NV링크로 연결하며, 통합 메모리는 144TB를 탑재하고 있습니다. 최대 연산량은 1엑사플롭스에 이릅니다.

1. 대규모 AI 처리: GH200은 테라바이트 클래스의 대규모 추천 시스템, 생성 AI, 그래프 분석 모델을 처리하기 위해 설계되었습니다.

2. 거대한 메모리: 144TB의 공유 메모리를 제공하여 개발자가 거대한 모델을 효과적으로 구축할 수 있습니다.

3. 초효율 컴퓨팅: 전통적인 연결 대신 Grace Hopper Superchips를 사용하여 대역폭을 7배 늘리고 전력 소비를 5배 이상 줄였습니다.

4. 빠른 구축 및 통합: GH200을 사용하면 거대한 모델을 몇 주 안에 구축할 수 있으며, NVIDIA의 통합 솔루션과 서비스를 제공합니다.

5. 확장성: 모든 Grace Hopper Superchip 간의 연결을 확장하여 256개의 GPU로 확장 가능합니다.

https://youtu.be/duEAqVnRnqI

여기서 잘 요약해놨음

NVIDIA DGX GH200

https://www.nvidia.com/ko-kr/data-center/dgx-gh200/

[Astera(onlyforsingularity)]

나도 이게 묻히다니 아쉬울따름

[라익(v8159841v)]

아니 이거 진짜 특이점 AI 관련해서 매우 매우 중요하고 엄청나게 희소식인데 특갤 초심 잃었네 진심 ㅠㅠ

[Astera(onlyforsingularity)]

좀만 기다려잉 초전도 떡밥도 언젠간 끝나

[nikki(runing2002)]

b투b는 체감이 잘 안되니까 - dc App

[라익(v8159841v)]

너무 슬프다 언제부터 특갤이 AI와 관련된 정보에 이렇게 관심이 없었냐... B2B여도 이거 엄청난거고 AI와 매우매우 밀접한건데...

[익명(220.86)]

이거개비싸잖오 lk99가 미래다!

[라익(v8159841v)]

비싸지만 기술이 발전하면 할수록 싸지잖아... 특붕이인데 그걸몰라? 일단 이런 기술까지 발전한게 엄청난거지!!

[MoonChild(aowlr2001)]