[일반] 딥러닝용 워크스테이션 구축 질문

[딥부이(123.143)]

데이터부서 회사에서 워크스테이션이나 랙 하나 구매하려고 하는데

a6000 2way나 a100 이든 rtx4090 4way 8way든 구축하려고 했는데 대표님이

H100 하나로 가자는데 이게 맞나?,,, SLM모델 만드려는데 

H100 하나 넣고 여러 업체 견적 넣어 봤는데 가격대가

4500~7700까지 다양하게 나오네 뭐가 맞는건지도 모르겠고 회사에 서버실도 없는데 워크스테이션으로 안되나?

[양금(compete7627)]

ㅋㅋ 걍 aws로 해라 - dc App

[익명(39.7)]

아무리 slm이여도 gpu 한대로는 메모리 부족해서 학습 절대 못돌릴거 같은데

[익명(121.173)]

일단 전력 공사 되었는지가 최우선 체크사항임. 안되어있으면 에어컨이랑 한전 불러서 공사해야함

[딥부이 1(203.230)]

서버실이 없으면 수랭 워크스테이션으로 가야함, 공랭은 서버실 없으면 그냥 한 층이 지진나는 수준이라 감당 안됨, 다만 워크스테이션은 a100 당시 약간 이슈가 있었어서 더 이상 안만드는걸로 기억함, 따라서 수랭으로 맞추려면 따로 조립해서 맞춰야 하고 그래서 SXM이 아니라 PCIe를 써야함, 일반적으로 PCIe는 SXM에 비해 성능이 좀 떨어진다는 이슈가 있음, 그리고 PCIe로 맞춘다해도 저거 카드 한장에 4천임 전력도 일반 칩이랑 비교가 안되게 많이 먹어서 조립 단가 자체도 좀 많이 쌤, 물론 입찰 들어가면 많이 떨어지긴 하지만 고작 몇천들고 맞춘다고 이야기할건 아니긴 함

[글쓴 딥부이(123.143)]

더 줘 애들아