난 500언더로 나오면 무조건 사긴할거거든
Fp4기준 1페타플롭이니까 fp16으로하면 v100보다 2배정도는 빠르고
통합 메모리 128이니까 총 vram 128이랑 비슷하니 매우 좋다고봄 통합메모리라 짱깨들이 칩 떼다 가져갈거같지도않고
난 500언더로 나오면 무조건 사긴할거거든
Fp4기준 1페타플롭이니까 fp16으로하면 v100보다 2배정도는 빠르고
통합 메모리 128이니까 총 vram 128이랑 비슷하니 매우 좋다고봄 통합메모리라 짱깨들이 칩 떼다 가져갈거같지도않고
처음엔 혹했는데 ‘총 vram 128이랑 비슷하니’ <- 이게 안 그럴 거 같아서 고민임. Unified memory가 그렇게 좋으면 애플 실리콘이 이미 inference용 가성비 깡패로 군림했어야 할 거 같은데
맥이 안되는 이유는 cuda 생태계가 아니여서임. cuda 생태계인 통합메모리와 생태계가 아닌 통합메모리는 천지차이라고 생각함. 양자화가 되냐 안되냐의 차이는 매우크지 lora할때도 그렇고
gall.dcinside.com/mgallery/board/view/?id=sff&no=1223596
난 메모리 대역폭 500GB/s 정도로 나오면 무조건 구매... ㅠㅠ