[❓질문] ai 기술이 왜 램을 많이필요로함??

[익명(1.224)]

ㅇㅇ?

[익명(qasdzxc1321)]

데이터를 무지막지하게 때려박아야하는데 보조기억장치는 존나 느리니까

[익명(bathroom3457)]

AI에게 물어보자

[데갤러 1(58.29)]

AI라는게 대단한게 아니라 무차별대입을 조금 세련되게 하는것 뿐임 무차별대입 빨리하는법은 ssd에 저장하는게 아니라 램에 최대한 때려박는 거니까

[익명(parrot0303)]

요즘은 KV 캐시도 양자화해서 많이안먹음

[데갤러 2(211.105)]

아직 양자기술 관련이 많이 안나와서 물리적인 기기 빨로 가는거임 메모리라는게 원래 정보를 읽고 쓰는 장치니까 우선적으로 그걸 먼저 쓰는거

[옹송망송(korean2417a)]

그렇다고 캐시 메모리를 수천 테라 단위로 찍어서 쓸 순 없잖아