[일반] 4070tis 가성비 Vram으로 쓰고있었는데

[딥부이(106.101)]

5070ti 으로 갈아탈까.. 학습시간 2배 이상 단축인거같은데

[익명(211.36)]

그거 fp4 fp8 비교라 학습 개선은 별로 안클거 같은데

[글쓴 딥부이(106.101)]

AI TOPS 점수가 중요한거 아니였어?

[익명(59.27)]

지포스는 accumulate(mixed precision) 성능 제한되있어서 황회장 말 그대로 믿으면 안됨. 파이토치 실성능 제보면 a100은 화이트페이퍼에 적힌 그대로 나오는데 지포스는 반토막남. 4090 기준 fp16 gemm은 원래 330나와야 하는데 파이토치 재보면 160TFlops만 나옴 - dc App

[글쓴 딥부이(106.101)]

아 그러면 지표제대로 나오고 나서 그때 고민해봐야겠구나 고마워

[글쓴 딥부이(106.101)]

아 근데 pcie 5.0이던데 대역폭 2배면 차이 심한거아님??

[익명(59.27)]

gpu 4장이상 쓰는거 아니면 전체 성능에 거의 영향없음 - dc App

[글쓴 딥부이(106.101)]

ㅇㅎ 답변 매우매우 감사