[📪정보] IBM의 최신 뉴로모픽 칩 NorthPole

[익명(182.230)]

https://open-neuromorphic.org/blog/northpole-ibm-neuromorphic-ai-hardware/

NorthPole은 신경망 추론에 특화되어 있습니다. 예를 들어, 데이터 의존적인 조건부 분기가 없으며, 학습이나 과학 계산을 지원하지 않습니다.

하드웨어에서 희소(Sparse) 신경망 지원

생물학적 정밀도에서 영감을 받아 NorthPole은 8, 4, 2비트의 저정밀도에 최적화되어 있습니다. 이는 많은 신경망에서 최신 추론 정확도를 달성하는 데 충분하면서도 학습에 필요한 고정밀도를 배제할 수 있습니다.

NorthPole의 단일 명령어-다중 데이터 MAC 유닛

GPU와 TPU가 시간적(temporal) 아키텍처인 것과는 대조적으로 NorthPole은 공간적(spatial) 아키텍처입니다. 이는 모든 PE가 공유하는 단일 온칩 메모리를 가지는 대신, 메모리의 (일부)가 처리 유닛과 함께 배치된다는 것을 의미합니다.

공간(왼쪽) 및 시간(오른쪽) 아키텍처

NorthPole은 12nm 공정으로 제작되었으며, 800mm2 면적에 220억 개의 트랜지스터, 256개의 코어, 8비트(4비트 및 2비트) 정밀도에서 코어당 2048(4096 및 8192)사이클의 연산을 수행합니다.

엔비디아 A100, H100과의 비교

4nm 공정을 사용하여 구현된 H100 GPU와 비교해도 NorthPole은 줄(joule)당 5배 더 많은 프레임을 전달합니다. NorthPole은 오프칩 메모리의 부재, 온칩 메모리와 컴퓨팅의 연결, 공간 컴퓨팅의 지역성, 그리고 저정밀도 연산의 더 나은 활용으로 인해 데이터 이동이 적어 에너지 효율이 높습니다.

[익명(147.47)]

비트맵 시대에 최적화된 칩이구만

[익명(168.188)]

2비트 정밀도면 바로 비트넷 적용 가능할텐데

[익명(211.212)]

[부패하는유전자!!!(sansss2015)]

[익명(rechido)]

[Joyful(approve1515)]