엔비디아는 블랙웰 GPU 72개와 자체 CPU(중앙처리장치)인 그레이스를 36개 결합한 'GB200 NVL72'라는 컴퓨팅 유닛으로 제공할 계획이다. 이 경우 GB200은 LLM에서 H100 대비 최대 30배의 성능 향상을 제공하며 비용과 에너지 소비는 최대 25분의 1 수준이다.
익명(165.141)2024-03-19 10:55
답글
그럼 2025agi라고봄?
익명(220.122)2024-03-19 10:59
꾸역꾸역 쓰지도 않는 fp4에 h100 시스템 딱 병목 생기는 구간 꾸겨넣어서 발표하는 수치임
소비자용 gpu치면 비램 병목 생긴거 가지고 벤치마크 때린거 ㅋㅋㅋ 기술 좋은거 맞는데 황회장 언플은 알아줘야함
에너지는 25분의1로 줄이고 성능은 훨씬 높아지긴함
그러니께 대박 아닌가?
ㅇㅇ 알트만도 에너지 소비량이 문제라 했는데 확 줄인거 보면 뭐 AGI 달성은 금방할듯
25분의 1이라고??
https://n.news.naver.com/mnews/article/029/0002861903?sid=101
엔비디아는 블랙웰 GPU 72개와 자체 CPU(중앙처리장치)인 그레이스를 36개 결합한 'GB200 NVL72'라는 컴퓨팅 유닛으로 제공할 계획이다. 이 경우 GB200은 LLM에서 H100 대비 최대 30배의 성능 향상을 제공하며 비용과 에너지 소비는 최대 25분의 1 수준이다.
그럼 2025agi라고봄?
꾸역꾸역 쓰지도 않는 fp4에 h100 시스템 딱 병목 생기는 구간 꾸겨넣어서 발표하는 수치임 소비자용 gpu치면 비램 병목 생긴거 가지고 벤치마크 때린거 ㅋㅋㅋ 기술 좋은거 맞는데 황회장 언플은 알아줘야함
특수한 영역 한정으로 입 터는거