[📪정보] 그래프코어 IPU MLPerf벤치마크서 AI 성능 입증

[익명(1.239)]

그래프코어 IPU-POD 시리즈, MLPerf벤치마크서 AI 성능 입증 - AI타임스 (aitimes.com)

엔비디아 출신이 만든 GPU의 라이벌 ‘IPU’ - T Times

슈퍼컴퓨터급 AI성능의 그래프코어 IPU-POD를 알아보자 - Byline Network

폰 노이만 병목을 완화하는 AI에 최적화된 하드웨어가 발전하고 있다...

IPU M2000 하나당 AI연산 1페타플롭스고 IPU POD 64는 M2000 16개로 16페타인데,
마소의 딥스피드 제로인피니티가 2페타(엔비디아 V100 16개 든 DGX 2) 당 1조 매개변수가 가능하다고 했으니
단순계산으로 POD 64 하나에 8조 매개변수 규모가 가능하다. V100보다 메모리 지연이 적으니 규모를 더 키울수도 있을듯

뉴로모픽칩은 SNN(스파이킹 뉴럴 넷)용이라 상용화는 더 걸릴거 같고
양자컴도 완벽한 오류보정이 되려면 수백만 큐비트 규모가 필요하므로 적어도 2030년까지는 기다려야 할테니

2020년대의 AI를 돌리는데는 그래프코어의 IPU같은 하드웨어가 주류가 될 것으로 보인다.

[익명(eltldd001)]

이미 구글은 따로 tpu 만들어서 하는데 저건 또 다른가

[익명(1.239)]

구글은 자기들만 쓰니까 상업용은 아님. TPU v4도 성능 좋은 건 사실이지.

[익명(210.123)]

엔비디아 출신 직원들 나와서 엔비디아 gpu 대체한답시고 만든회산데 이번에 mlperf 항목 한두개만 낫고 다른건 싹다 별로라 사실상 실패라는 반응이 있음

[익명(1.239)]

뭐 그렇다 해도 별 문제는 아니라고 봄. IPU는 새로운 시작점이고 엔비디아 GPU는 오랜 노하우가 있는거지. 전망성에 있어서는 나쁘지 않다고 봄. 그래프코어의 성공여부를 떠나서 메모리 지연을 줄이는 방향성은 계속될테니