[📪정보] [번역] NVDA, Blackwell 플랫폼으로 새로운 컴퓨팅 시대 열다

[익명(landofooo)]

[번역] NVDA, Blackwell 플랫폼으로 새로운 컴퓨팅 시대 열다

NVIDIA Blackwell 플랫폼, 새로운 컴퓨팅 시대 열다

2024년 3월 18일

NVIDIA Blackwell 플랫폼, 새로운 컴퓨팅 시대를 주도하다

새로운 Blackwell GPU, NVLink, Resilience 기술로 1조 파라미터 규모의 AI 모델 구현 

새로운 Tensor Core와 TensorRT-LLM 컴파일러가 LLM 추론 운영 비용과 에너지 소비를 최대 25배 감소

데이터 처리, 엔지니어링 시뮬레이션, EDA, 컴퓨터 지원 신약개발, 양자 컴퓨팅 분야 혁신 가속화 

주요 클라우드 사업자, 서버 제조사, 선도적 AI 기업들의 폭넓은 채택

GTC - NVIDIA는 오늘 NVIDIA Blackwell 플랫폼의 출시를 발표하며 새로운 컴퓨팅 시대를 열었다. 모든 기업이 최대 25배 적은 비용과 에너지로 1조 파라미터 규모의 대형 언어 모델을 활용한 실시간 생성형 AI를 구축하고 실행할 수 있게 되었다. 

Blackwell GPU 아키텍처는 NVIDIA가 데이터 처리, 엔지니어링 시뮬레이션, EDA, 컴퓨터 보조 신약개발, 양자 컴퓨팅, 생성형 AI 등 새롭게 부상하는 산업 기회를 모색하는 데 기여할 6가지 획기적 가속 컴퓨팅 기술을 특징으로 한다.

NVIDIA 창업자 겸 CEO 젠슨 황은 "우리는 30년 동안 딥러닝과 AI 같은 혁신적 돌파구를 마련하기 위해 가속 컴퓨팅을 추구해왔다"며 "생성형 AI는 우리 시대를 정의하는 기술이며, Blackwell은 이 새로운 산업혁명을 견인할 엔진"이라고 말했다. 그는 이어 "세계에서 가장 역동적인 기업들과 협력해 모든 산업에 AI의 약속을 실현할 것"이라고 덧붙였다.

Blackwell을 채택할 것으로 예상되는 기업으로는 Amazon Web Services, Dell Technologies, Google, Meta, Microsoft, OpenAI, Oracle, Tesla, xAI 등이 있다.

Alphabet 및 Google CEO 순다르 피차이: "검색, Gmail 같은 서비스를 수십억 사용자에게 제공한 경험은 컴퓨팅 인프라 관리에 대해 많은 것을 가르쳐 주었다. AI 플랫폼 전환기에 접어들면서, 우리는 자사 제품과 서비스는 물론 클라우드 고객을 위한 인프라에 대한 투자를 계속하고 있다. NVIDIA와 오랜 파트너십을 맺고 있어 다행이며, Blackwell GPU의 획기적 역량을 Google의 DeepMind를 포함한 Google 전반의 팀과 클라우드 고객에게 제공해 향후 발견을 가속화할 수 있기를 기대한다."

Amazon 사장 겸 CEO 앤디 재시: "NVIDIA와의 긴밀한 협력은 13년 전 AWS에서 세계 최초의 GPU 클라우드 인스턴스를 출시했을 때로 거슬러 올라간다. 오늘날 우리는 세계에서 가장 기술적으로 진보한 가속 워크로드를 지원하는 광범위한 GPU 솔루션을 클라우드에서 제공하고 있다. 그래서 새로운 NVIDIA Blackwell GPU가 AWS에서 잘 작동할 수 있는 이유이며, NVIDIA가 자사의 AI 연구개발을 위해 NVIDIA의 차세대 Grace Blackwell 슈퍼칩과 AWS Nitro 시스템의 고급 가상화 및 초고속 EFA 네트워킹을 결합한 Project Ceiba 공동 개발을 위해 AWS를 선택한 이유다. AWS와 NVIDIA 엔지니어 간의 이러한 공동 노력을 통해 우리는 AWS를 클라우드에서 NVIDIA GPU를 실행하기에 최고의 장소로 만들기 위해 계속 혁신하고 있다."

Dell Technologies 설립자 겸 CEO 마이클 델: "생성형 AI는 더 스마트하고 신뢰할 수 있으며 효율적인 시스템을 만드는 데 중요하다. Dell Technologies와 NVIDIA는 기술의 미래를 만들기 위해 협력하고 있다. Blackwell 출시와 함께 우리는 고객에게 차세대 가속 제품과 서비스를 계속 제공하여 산업 전반에 걸쳐 혁신을 주도할 수 있는 도구를 제공할 것이다."

Google DeepMind 공동창업자 겸 CEO 데미스 하사비스: "AI의 변혁적 잠재력은 엄청나며, 세계에서 가장 중요한 과학적 문제 중 일부를 해결하는 데 도움이 될 것이다. Blackwell의 획기적인 기술 역량은 세계 최고의 두뇌들이 새로운 과학적 발견을 이룰 수 있는 데 필요한 중요한 컴퓨팅 능력을 제공할 것이다."

Meta 창업자 겸 CEO 마크 저커버그: "AI는 이미 대형 언어 모델부터 콘텐츠 추천, 광고, 안전 시스템에 이르기까지 모든 것을 지원하고 있으며, 앞으로 더욱 중요해질 것이다. 우리는 개방형 Llama 모델 학습과 차세대 Meta AI 및 소비자 제품 구축에 NVIDIA의 Blackwell을 활용하기를 기대한다."

Microsoft 회장 겸 CEO 사티아 나델라: "우리는 고객에게 AI 워크로드를 지원할 수 있는 가장 진보된 인프라를 제공하기 위해 최선을 다하고 있다. GB200 Grace Blackwell 프로세서를 전 세계 데이터센터에 도입함으로써 우리는 NVIDIA GPU를 클라우드에 최적화해온 오랜 역사를 바탕으로, 전 세계 모든 기업에 AI의 약속을 실현하고 있다."

OpenAI CEO 샘 알트만: "Blackwell은 엄청난 성능 도약을 제공하며, 최첨단 모델을 제공하는 우리의 역량을 가속화할 것이다. 우리는 NVIDIA와 계속 협력하여 AI 컴퓨팅을 향상시키기를 기대한다."

Oracle 회장 겸 CTO 래리 엘리슨: "Oracle과 NVIDIA의 긴밀한 협력은 AI, 머신러닝, 데이터 분석 분야에서 질적, 양적 돌파구를 마련할 것이다. 고객이 더 실행 가능한 통찰력을 발견하기 위해서는 Blackwell 같이 가속 컴퓨팅과 생성형 AI를 위해 특별히 제작된 더 강력한 엔진이 필요하다."

Tesla 및 xAI CEO 일론 머스크: "현재 AI를 위한 하드웨어로는 NVIDIA보다 나은 것이 없다." 

게임 이론과 통계학을 전문으로 하고 미국 과학 아카데미에 입성한 최초의 흑인 학자인 데이비드 해럴드 블랙웰의 이름을 딴 새로운 아키텍처는 2년 전 출시된 NVIDIA Hopper™ 아키텍처의 후속 모델이다.

가속 컴퓨팅과 생성형 AI 발전을 이끌 Blackwell의 혁신

10조 파라미터 규모의 AI 학습과 실시간 LLM 추론을 가능케 하는 Blackwell의 6가지 혁명적 기술은 다음과 같다.

세계에서 가장 강력한 칩 - 2,080억 개의 트랜지스터가 탑재된 Blackwell 아키텍처 GPU는 TSMC의 맞춤형 4NP 공정을 사용해 제조되며, 10TB/초 칩 간 링크로 연결된 두 개의 레티클 제한 GPU 다이가 하나의 통합 GPU로 결합된다.

2세대 Transformer 엔진 - NVIDIA의 첨단 동적 범위 관리 알고리즘이 NVIDIA TensorRT-LLM 및 NeMo Megatron 프레임워크에 통합된 새로운 마이크로 텐서 스케일링 지원으로 Blackwell은 새로운 4비트 부동 소수점 AI 추론 기능으로 컴퓨팅과 모델 크기를 2배로 늘릴 수 있다. 

5세대 NVLink - 멀티트릴리언 파라미터 및 전문가 결합 AI 모델의 성능 향상을 위해 NVIDIA NVLink의 최신 버전은 GPU당 1.8TB/s의 획기적인 양방향 처리량을 제공하여 최대 576개의 GPU 간 원활한 고속 통신을 보장한다. 

RAS 엔진 - Blackwell 기반 GPU에는 안정성, 가용성, 유지보수성을 위한 전용 엔진이 포함되어 있다. 또한 Blackwell 아키텍처는 진단을 실행하고 안정성 문제를 예측하기 위해 AI 기반 예방 유지보수를 활용할 수 있는 칩 수준의 기능을 추가했다. 이를 통해 대규모 AI 배포의 시스템 가동 시간을 극대화하고 수 주 또는 수 개월 동안 중단 없이 실행할 수 있는 회복력을 높이며 운영 비용을 절감할 수 있다.

보안 AI - 고급 기밀 컴퓨팅 기능은 성능 저하 없이 AI 모델과 고객 데이터를 보호하며, 의료 및 금융 서비스 같은 개인정보 보호에 민감한 산업에 중요한 새로운 기본 인터페이스 암호화 프로토콜을 지원한다.

압축 해제 엔진 - 전용 압축 해제 엔진은 최신 형식을 지원하며 데이터베이스 쿼리를 가속화하여 데이터 분석 및 데이터 과학에서 최고 성능을 제공한다. 향후 수 년 내에 기업들이 매년 수백억 달러를 지출하는 데이터 처리가 점점 더 GPU로 가속화될 것이다.

거대한 슈퍼칩

NVIDIA GB200 Grace Blackwell 슈퍼칩은 900GB/s의 초저전력 NVLink 칩 간 인터커넥트를 통해 두 개의 NVIDIA B200 Tensor Core GPU를 NVIDIA Grace CPU에 연결한다.

최고의 AI 성능을 위해 GB200 기반 시스템은 오늘 발표된 NVIDIA Quantum-X800 InfiniBand 및 Spectrum-X800 이더넷 플랫폼과 연결할 수 있으며, 이를 통해 최대 800Gb/s 속도로 고급 네트워킹을 제공한다.

GB200은 가장 컴퓨팅 집약적인 워크로드를 위한 다중 노드, 액체 냉각식 랙 스케일 시스템인 NVIDIA GB200 NVL72의 핵심 구성 요소다. 5세대 NVLink로 상호 연결된 72개의 Blackwell GPU와 36개의 Grace CPU가 포함된 36개의 Grace Blackwell 슈퍼칩을 결합한다. 또한 GB200 NVL72에는 초대규모 AI 클라우드에서 클라우드 네트워크 가속, 구성 가능한 스토리지, 제로 트러스트 보안, GPU 컴퓨팅 탄력성을 가능하게 하는 NVIDIA BlueField-3 데이터 처리 장치가 포함되어 있다. GB200 NVL72는 LLM 추론 워크로드에 대해 동일한 수의 NVIDIA H100 Tensor Core GPU와 비교할 때 최대 30배의 성능 향상을 제공하며 비용과 에너지 소비를 최대 25배 줄인다.

이 플랫폼은 1.4 엑사플롭스의 AI 성능과 30TB의 빠른 메모리를 갖춘 단일 GPU처럼 작동하며 최신 DGX SuperPOD의 구성 요소로 사용된다.

NVIDIA는 NVLink를 통해 8개의 B200 GPU를 연결하여 x86 기반 생성형 AI 플랫폼을 지원하는 서버 보드인 HGX B200을 제공한다. HGX B200은 NVIDIA Quantum-2 InfiniBand 및 Spectrum-X 이더넷 네트워킹 플랫폼을 통해 최대 400Gb/s의 네트워킹 속도를 지원한다.

Blackwell 파트너의 글로벌 네트워크

Blackwell 기반 제품은 올해 후반부터 파트너사를 통해 제공될 예정이다.

AWS, Google Cloud, Microsoft Azure, Oracle Cloud Infrastructure는 Blackwell 기반 인스턴스를 제공하는 최초의 클라우드 서비스 제공업체 중 하나가 될 것이며, NVIDIA 클라우드 파트너 프로그램 기업인 Applied Digital, CoreWeave, Crusoe, IBM Cloud, Lambda도 마찬가지다. 주권 AI 클라우드도 Blackwell 기반 클라우드 서비스와 인프라를 제공할 예정이며, 여기에는 Indosat Ooredoo Hutchinson, Nebius, Nexgen Cloud, Oracle EU Sovereign Cloud, Oracle US, UK, Australian Government Cloud, Scaleway, Singtel, Northern Data Group의 Taiga Cloud, Yotta Data Services의 Shakti Cloud, YTL Power International 등이 포함된다.

GB200은 엔터프라이즈 개발자에게 고급 생성형 AI 모델을 구축하고 배포하는 데 필요한 인프라와 소프트웨어에 대한 전용 액세스를 제공하는 선도적 클라우드 서비스 제공업체와 공동 설계된 AI 플랫폼인 NVIDIA DGX Cloud에서도 사용 가능할 예정이다. AWS, Google Cloud, Oracle Cloud Infrastructure는 올해 후반에 새로운 NVIDIA Grace Blackwell 기반 인스턴스를 호스팅할 계획이다.

Cisco, Dell, Hewlett Packard Enterprise, Lenovo, Supermicro는 Blackwell 제품을 기반으로 한 다양한 서버를 제공할 것으로 예상되며, Aivres, ASRock Rack, ASUS, Eviden, Foxconn, GIGABYTE, Inventec, Pegatron, QCT, Wistron, Wiwynn, ZT Systems 등도 마찬가지다.

또한 엔지니어링 시뮬레이션 분야의 글로벌 리더인 Ansys, Cadence, Synopsys 등 소프트웨어 제조업체들이 전기, 기계, 제조 시스템 및 부품 설계 및 시뮬레이션 소프트웨어를 가속화하기 위해 Blackwell 기반 프로세서를 사용할 것이다. 이들의 고객은 생성형 AI와 가속 컴퓨팅을 활용하여 제품을 더 빠르고 저렴하며 에너지 효율적으로 시장에 출시할 수 있다.

NVIDIA 소프트웨어 지원

Blackwell 제품 포트폴리오는 프로덕션 수준의 AI를 위한 엔드 투 엔드 운영 체제인 NVIDIA AI Enterprise에서 지원된다. NVIDIA AI Enterprise에는 오늘 발표된 NVIDIA NIM 추론 마이크로서비스뿐만 아니라 NVIDIA가 가속화한 클라우드, 데이터 센터 및 워크스테이션에 배포할 수 있는 AI 프레임워크, 라이브러리 및 도구가 포함되어 있다.

NVIDIA Blackwell 플랫폼에 대해 자세히 알아보려면 GTC 기조 연설을 시청하고 3월 21일까지 진행되는 GTC에서 NVIDIA와 업계 리더의 세션에 등록하십시오.

NVIDIA 소개

1993년 설립된 NVIDIA(NASDAQ: NVDA)는 가속 컴퓨팅 분야의 선구자다. 1999년 GPU 발명은 PC 게임 시장의 성장을 촉발하고 컴퓨터 그래픽스를 재정의했으며 현대 AI 시대를 열었고 모든 시장에서 산업 디지털화를 추진하고 있다. NVIDIA는 이제 데이터 센터 규모의 제품을 통해 산업계를 혁신하는 풀스택 컴퓨팅 인프라 기업이다. 자세한 내용은 https://nvidianews.nvidia.com/에서 확인할 수 있다.

요약:

NVIDIA의 Blackwell 플랫폼은 1조 파라미터 규모의 AI 모델을 최대 25배 적은 비용과 에너지로 구현할 수 있는 혁신적인 기술을 제공한다.

Blackwell GPU 아키텍처는 데이터 처리, 엔지니어링 시뮬레이션, EDA, 신약개발, 양자 컴퓨팅, 생성형 AI 등 다양한 분야에서 혁신을 가속화할 6가지 핵심 기술을 탑재했다.

주요 클라우드 사업자, 서버 제조사, AI 기업들이 Blackwell을 폭넓게 채택할 것으로 예상되며, NVIDIA의 소프트웨어 지원으로 엔터프라이즈 고객은 프로덕션 수준의 AI 솔루션을 구축할 수 있게 된다.

[Joyful(approve1515)]