[❓질문] RTX 3090 4개 서버에서 diffusion 모델 훈련 불가능함?

[익명(117.111)]

VRAM 24GB짜리 4개 꽂았는데 계속 cuda out of memory 뜨네...

이미지 크기 512x512고 전체 GPU 합쳐서 batch size 8인데도 저럼

[익명(203.230)]

스칼라에만 쳐도 3090으로 돌린 디퓨전 논문 수두룩함, 그냥 비효율적으로 짠거니 줄여라

[익명(118.235)]

다팔고 h100 써라 - dc App

[익명(211.36)]

게이야 h100을 살수 있음 3090쓰고 있겠누 3090이 천얼마면 맞춘다면 h100은 억에서 시작한다

[익명(118.235)]

4090 한대로도 적당한 사이즈 pretrain 시켜봄

[익명(121.173)]

디퓨전 모델이 오히려 다른모델보다 VGRAM 덜들지 다른 새끼들은 Layer를 쌓는데 디퓨전은 UNnet을 괴랄하게 키우지 않는이상 크진 않잖아. Training Step 수랑 Inference에서 좆되는거지.

[익명(128.227)]

간혹 2080ti 에서 훈련부터 돌린 친구들도 나옴

[익명(211.234)]

그 정도면 넉넉함