[일반] 근데 왜 지포스4090이 아니라 비싼 h100 같은거 쓰는거임?

[익명(121.143)]

4090이 대충 250만원인데
전용인 a100은 그거 14배 비싸더라고
성능차이도 14배 남? 절대 그건 아닐거 같은데...

[익명(125.182)]

성능보단 전성비가 압도적이라

[익명(182.211)]

챗지피티 4090으로 운용했으면 지금쯤 시설노후화로 펑 터졌을듯

[마지막 기회(59.16)]

일단 vram 차이문제 a100은 40g 80g 있지만 4090은 24g가 최대임 사실 4090 a100 성능차이는 8배 이상 날걸. 그리고 병렬처리 시켜서 학습 해야하는데 병렬처리하면 할 수록 그만큼 gpu 사용량이 작아짐. 그래서 가장 최소로 병렬처리하는 a100 h100 쓰는거임