[📪정보] MS, AI 추론 비용 30% 낮춘 자체 칩 '마이아 200' 공개

[회색(counsel8318)]

MS, AI 추론 비용 30% 낮춘 자체 칩 '마이아 200' 공개 - AI타임스

마이크로소프트(MS)는 AI 추론(inference)에 최적화된 설계된 차세대 AI 칩을 공개하며, 엔비디아 중심으로 형성된 AI 칩 시장에 본격적인 도전장을 내밀었다.

MS는 26일(현지시간) 차세대 AI 추론 칩 ‘마이아 200(Maia 200)’을 공개했다. MS가 2023년 처음 선보인 자체 칩 마이아의 후속 제품이다.

마이아 200은 이번 주 아이오와주 데이터센터에서 가동을 시작하며, 애리조나로도 배치가 확대될 예정이다.

이처럼 최근에는 구글과 아마존웹서비스(AWS) 등 주요 클라우드 기업들이 잇달아 자체 칩을 내놓는 흐름이다. 이들은 AI 수요 급증으로 엔비디아 최신 칩의 높은 가격과 공급 부족을 겪으면서, 비용 효율적이고 데이터센터에 최적화된 대안을 확보하는 데 주력해 왔다.

MS는 마이아 200이 TSMC의 3나노 공정으로 제작됐으며, 같은 가격대의 경쟁 제품에 비해 30% 높은 성능을 낸다고 강조했다. 일부 AI 작업에서 구글과 AWS의 자체 칩보다 높은 성능을 보이며, 지금까지 배치한 추론 시스템 중 가장 효율적이라고 강조했다.

4비트 정밀도(FP4)에서 10페타플롭스(PFLOPS) 이상, 8비트 정밀도(FP8)에서 5PFLOPS 이상의 성능을 제공한다. 메모리는 216GB 용량의 고대역폭 메모리(HBM3e)를 채택했지만, 메모리 세대는 엔비디아가 출시를 앞둔 차세대 플래그십 ‘베라 루빈’보다 한 단계 낮다.

대신, 대용량 SRAM(정적 램)을 칩에 배치해, 사용자 다수의 요청을 동시에 처리해야 하는 챗봇과 AI 추론 작업에서 처리 속도와 에너지 효율을 끌어올렸다고 설명했다. 이는 세레브라스나 그로크 등 신흥 AI 칩 업체들이 채택한 전략과 유사하다.

소프트웨어 전략도 눈에 띈다. MS는 마이아 200과 함께 오픈 소스 프로그래밍 도구 ‘트라이톤(Triton)’을 포함한 개발 패키지를 제공한다.

트라이톤은 엔비디아의 독점적 생태계 핵심으로 평가받는 쿠다(CUDA)와 유사한 역할을 수행하며, 오픈AI도 개발에 기여했다. 이는 개발자 친화적인 소프트웨어 스택을 통해 엔비디아의 경쟁 우위를 약화하려는 시도다.

초기 물량은 MS의 ‘슈퍼인텔리전스’ 팀에 투입, 차세대 AI 모델과 클라우드 인프라 개선에 활용된다. 또 기업용 '코파일럿(Copilot)'과 MS가 클라우드 고객에게 제공하는 오픈AI 최신 모델 구동에도 사용될 예정이다.

애저(Azure) 클라우드 고객이 언제부터 마이아 200 기반 서버를 직접 사용할 수 있을지는 아직 명확하지 않다. 현재는 개발자들이 제어 소프트웨어를 시험해 볼 수 있는 단계다.

MS는 이미 차세대 ‘마이아 300’ 개발에도 착수했다고 밝혔다. 내부 칩 개발이 예상만큼 성과를 내지 못할 경우를 대비해, 파트너인 오픈AI의 칩 설계에 접근할 권한도 확보한 상태다.

출처 : AI타임스(https://www.aitimes.com)

  

테크놀로지아!