[일반] 램도 ai성능에 영향많이줌?

[익명(121.168)]

다들 그래픽카드 많이 찾던데 llm이나 다른ai에는 cpu나 램같은 다른컴퓨터 부품들은 영향별로없음?

한28년쯤에 나오는 ddr6램부터 성능점프엄청나던데 그거나오면 흐름에 영향좀 주나?

[sama(prince2317)]

로컬 말하는거면 VRAM이 가장 중요함 다른것들은 VRAM에 병목되는 정도만 아니면 ㄱㅊ

[익명(175.206)]

지금 AI라고 불리는 애들은 딥러닝임. 근데 딥러닝 무식하게 설명하는 방법 중 하나가, 데이터에서 학습한 걸 수십,수백억개의 숫자 칸에 업데이트 하는 거임. 그리고 이 숫자 업데이트 할 때 사칙연산으로 함. 근데 우연히 그래픽 작업들은 대부분 사칙연산이라 GPU가 사칙연산에 강하게(병렬계산)설계돼서 서로 죽이 맞게 된거지. CPU로도 돌릴 순 있음. 근데 CPU는 병렬 계산에 최적화가 안 돼서 계산 자체는 빠른데 계산하는 개수가 적어서 느림. 근데 수백억개 숫자는 용량이 매우 크잖음? 이걸 GPU에 올려서 계산 시켜야 하는데 GPU 용량이 작으면 못 올림. 그래서 큰 GPU를 찾게 됨. 정리하면, 사실상 GPU만 중요하다고 생각해도 됨.

[익명(175.206)]

근데 나 컴공학 잘 몰라서 디테일은 엄청 틀렸을 순 있음.