[📪정보] 인텔, 차세대 AI 칩 ‘가우디3’으로 엔비디아에 도전

[익명(182.230)]

https://www.aitimes.com/news/articleView.html?idxno=158692

인텔, 차세대 AI 칩 ‘가우디3’으로 엔비디아에 도전

인텔이 자체 개발한 최신 인공지능(AI) 칩을 공개하고 엔비디아에 본격적인 도전장을 내밀었다.

벤처비트는 9일(현지시간) 인텔이 미국 아리조나주 피닉스에서 열린 ‘인텔 비전 2024’ 컨퍼런스에서 최신 AI 칩 ‘가우디 3(Gaudi 3)′를 공개했다고 전했다. 지난해 12월 가우디 3 출시를 예고한 지 5개월 만이다.

이에 따르면 가우디 3는 엔비디아 'H100'에 비해 '라마 2 7B' '라마 2 13B' 'GPT-3 175B' 모델에서 1.7배 더 빠른 훈련 시간을 제공한다. 추론 처리량은 '라마 7B' '라마 70B' '팰컨 180B' 모델에서 H100보다 1.5배, 엔비디아의 최신 'H200'보다 1.3배 더 빠르다. 또 추론 전력 효율은 H100보다 평균 2.3배 더 높다.

이전 버전보다 4배 더 많은 BF16용 AI 컴퓨팅 성능과 1.5배 향상된 HBM 메모리 대역폭을 제공한다.

2개의 다이 모듈에 분산된 64개의 TPC 코어와 8개의 MME 코어로 구성되며, AI 모델이 계산에 필요한 데이터에 빠르게 액세스할 수 있게 해주는 128GB의 온보드 HBM2e 메모리가 지원된다.

TPC는 AI 모델이 데이터를 처리하는 동안 수행하는 여러 유형의 계산 속도를 높이도록 최적화되었으며, MME는 이미지 인식 모델의 기반이 되는 컨볼루셔널 레이어를 실행에 중점을 둔다.

인텔에 따르면 단일 서버에 8개의 가우디 3 칩을 설치할 수 있다. 각 칩에는 인접한 가우디 3와 데이터를 교환하는 데 사용되는 21개의 이더넷 링크가 포함돼 있다. 또 서버 외부의 칩과 상호 작용할 수 있는 이더넷 링크가 3개 더 제공된다. 인피니밴드 중심인 엔비디아와 달리 개방적인 이더넷을 사용한다는 설명이다.

인텔은 가우디 3의 개방적인 생태계가 엔비디아의 폐쇄적인 쿠다(CUDA) 생태계와 다르다고 강조했다. 인텔은 퀄컴, 구글 등과 '반 엔비디아 전선'을 형성하며 AI 앱 개발을 위한 오픈 소프트웨어 구축에도 나서고 있다.

3분기에 출시 예정이며, 서버업체 델과 HP, 슈퍼마이크로 등이 가우디3 시스템을 구축할 것으로 알려졌다. 가격은 공개되지 않았다.

그러나 다스 캄하우트 인텔 소프트웨어 부사장은 “우리는 가우디 3가 엔비디아의 최신 칩과 비교해 매우 경쟁력이 있을 것으로 기대한다”라고 말했다. 또 “경쟁력 있는 가격, 차별화된 개방형 통합 네트워크 온 칩, 업계 표준 네트워크 기술인 이더넷을 사용한다”라며 “가우디 3가 강력한 제품이라고 믿는 데에는 이유가 있다”라고 설명했다.

한편 이날 경쟁업체인 AMD도 두가지 ‘2세대 버설 시리즈(Versal Series Gen 2)’ 칩을 발표했다. 주로 스마트 자동차 하위 시스템과 같은 엣지 AI 장치에 적용하도록 설계된 SoC(System on Chip)이다.

2세대 버설 AI 엣지 시리즈는 AI 기반 임베디드 시스템 가속화의 전처리, AI 추론 및 후처리 단계에 맞춰진 최적의 프로세서 조합을 통합한다. 실시간 전처리를 위한 FPGA 로직 패브릭, 효율적인 AI 추론을 위한 벡터 프로세서 어레이, 후처리를 위한 Arm CPU 코어를 갖춘 이 장치는 단일 칩에서 포괄적인 솔루션을 제공하므로 멀티 칩이 필요하지 않다.

또 FPGA 로직 패브릭과 고성능 임베디드 Arm CPU를 결합하여 기존의 임베디드 시스템에 적합하다. 1세대에 비해 최대 10배 더 많은 스칼라 컴퓨팅을 갖춘 이 장치는 UHD 비디오 스트리밍, 산업용 PC 및 비행 컴퓨터와 같은 애플리케이션에 효과적이다.

조기 액세스 문서 및 평가 키트는 현재 이용 가능하며, 실리콘 샘플은 2025년 상반기에, 생산 실리콘은 2025년 후반에 출시 예정이다.

[익명(61.255)]

인텔식 벤치마크 = 거른다 진짜였으면 출시하기도전에 엔비디아처럼 줄서서 사겠다고함 근데 아무도없다? = 스캠

[익명(121.168)]

개폭망 예상이라 거른다 이새끼들 cpu도 관리못하는중

[익명(116.255)]

훈련 시간 ? 오졌네