챗gpt로 ai붐이 오면서 ai반도체 이야기로 핫한데


지금 ai 발전의 발목은 잡고 있는 게,
폰노이만 구조의 한계인 메모리 병목현상 탓이 아주 크다고 하더라.


그래서 이걸 어떻게든 해보려고
메모리 대역폭을 높히는 것(hbm)뿐만 아니라 데이터가 왔다갔다 할 일 자체를 줄이려고 하는데


그래서 cpu하고 gpu한테 계산을 전부 맡기는 것에서 벗어나
메모리에서도 일부 계산을 담당하게 하는 pim 기술을 적용한다고 하더라.



위 짤의 가장 왼쪽이 현재 컴퓨터 구조고
그 오른쪽이 차세대 메모리 구조인데 보면서
되게 뉴런이랑 비슷하다는 생각이 들었음.


아직은 cpu랑 gpu가 해야 할 일의 극히 일부를 도와주는 것에 불과하다지만

좀 더 발전하면 cpu, gpu, 메모리의 경계가 모호해지지 않을까.