는 바로 레이턴시(지연되는 시간) 때문임.

듣고 '그건 당연하지 ㅋㅋㅋ' 하는 특붕이들 많을건데 내 말좀 들어보셈.


최신 CPU 아키텍쳐들이 어떻게 성능을 올림?

캐싱과 분기 예측이지.

겁나 복잡한 캐싱과 분기예측 알고리즘을 통해 이 빠른 속도를 가능케 함.

그 본질적인 이유는 어떤 코드조각이 실행될 지 모르기 때문이고.

(컴파일 타임에 해결이 된다면 그건 그냥 최적화)


최신 AI들이 어떻게 성능을 올림?

물론 CPU는 연산 능력을 늘리고 AI는 가능한 일의 범위를 늘린다는 차이는 있는데

보통 트랜스포머로 올리잖아?


트랜스포머의 어텐션과 임베딩으로 보통 해결이 되는데

그 이유는 지프의 법칙을 만족하는 대상이 생각보다 많기 때문이고.

(단어든 그림이든 무언가가 특정 맥락에서만 사용된다는 뜻임)


어텐션과 분기문에 일맥 상통하는 부분이 있다면

스트림 프로세서만 잔뜩 있는 일반 CPU-GPU 모델에서

앞으로 나올 것은 캐싱과 분기예측임.

근데

CPU-GPU 사이 버스 속도가 높냐? ㄴㄴ

그렇다면 겁나 빡센 캐싱과 분기예측 신경망을 돌릴 만큼 VRAM이 넉넉하냐? ㄴㄴ

GPU에서 캐싱이 가능한지를 차치하고서도 답이 없음.

따라서 CPU-GPU를 사용하는 사람들은 답이 없음을 알 수 있다.
전용 반도체를 만들어서 레이턴시를 줄이고 램도 좀 늘리고 해야

요즘 CPU에 적용된 성과들을 인공지능에 적용할 수 있을 것임.

따라서 AI 반도체를 직접 개발하는 기업이 짱임.
테슬라 구글 메타 마소 아마존 흥해라