특갤 주제에 약간은 빗나간거긴 한데 매니악한 분야인지라..
로컬 llm 돌리려 해서 듀얼파워(1000w, 850w)로 3080 3개 혹은 듀얼파워+2gpu를 사용해보려 하는데 마땅한 케이스가 없네요.
일반 케이스나 랙마운트도 상관없으니 가성비 좋은놈 있을까요?
가능하면 듀얼파워+3gpu
그런 구성이 없다면 2gpu도 좋습니다
메인보드 pcie 슬롯 밑 최하단에 단자들 때문에 어쩔수없이 pcie 연장케이블 사용해야 해서 글카를 어디에 놓던 상관은 없을거같아요.
라이저 쓰거나 egpu
오 egpu는 생각도 못해봤네요. 근데 라이저는 pcie 대역폭 싹 잘려서 병목 ㅈ될거같은데요
3개 이상부터는 메인보드 가격 확뜀. VRAM 3080이 얼마나였는지 모르겠는데 정작 구성해도 쓸때 느려터져서 속터질수도
엥? 왜 느려져요? 3개 쓴다해도 pcie16레인 다 쓰게 해주면 병목이 안생기지 않나여?
PCIE 슬롯 자체도 3개 이상인 메인보드가 좀 드물고 뭐 레인수 병목이랑 별개로 쿠다코어 개수가 적거나 그러면 그냥 느릴수 있다는거 VRAM은 당연히 따져야하는데 용량큰게 한 GPU 안에 있는 형태가 젤 좋고
하~ 따질게 많네요.. 일단 여러가지로 실험좀 해봐야겠네요
그리고 더 문제는 크기 크거나 메인보드가 작거나 케이스가 작으면 여러개 안꽂힐수도 있음 이게 제일 빡치는부분일수도 전기비도 꽤나나갈듯
그래서 pcie 연장케이블에 랙마운트까지도 보고있긴해요. 다만 듀얼파워 지원하는게 진짜 안보일뿐.
비용 꽤나갈듯 한데 듀얼파워말고 걍 2000W 이런거 찾아보지 ATX 3.1 지원하는 풀모듈러로 3080 피크치가 몇일진 모르겠는데 언더볼팅도 생각해본다든지
기존에 있는 장비 활용하려고 해서 그래요. 아마... 언더볼팅하면 1000w로 2대는 커버 간신히 되겠네요
근데 3080 3대는 되게 애매하긴 하다 4000번대부터는 NVLINK도 지원안하는데 nvda가 워낙에 창렬로 차세대넘들을 내놓다보니
3000번대도 3080은 nvlink 지원 안하긴해요. 이제 nvlink 없는 제품들은 꼬우면 dgx스파크 사라는듯ㅠ
근데 그제품도 창렬일거라 아예 추론용이면 가격생각시 맥이나을수도 ㅋㅋ
실성능 보고 계산해봐야죠ㅋㅋ 통합램96gb인 amd 노트북도 생각은 하고 있답니다.
amd는 좀 ㄷ