[일반] qwen3 235b나 oss 120b 돌리는 애들은 컴터 뭐쓰냐?

[익명(60.150)]

메모리 얼마나 있어야 돌아가?

적어도 80GB는 넘어야 OSS 120B 돌릴 거 같고.

메모리 막 256GB 쓰고 그래?

[ㅇㅇ 1(211.54)]

h100 한 장 정도는 있어야 할걸? 한 5천정도 쓰면됨

[익명(orangestar1122)]

api씀

[익명(manager1796)]

레딧 가면 3090 8개씩 돌리는 사람들 많더라 - dc App