[일반] 클로드 오푸스 4.5 정도 성능 로컬에서 돌릴려면 사양 어케 맞춰야하나요

[익명(119.214)]

추천 부탁드립니다. 예산 제한 없습니다

[정신안차려?(proceed3119)]

그런건 로컬에서 돌릴 수준이 아닐건데 - dc App

[익명(119.214)]

비싸도 감당 가능합니다 견적만 추천해주세요

[익명(graphic8791)]

레딧보면 rtx pro 6000 4개써야 비슷한 규모로 로컬llm 된다는데 개인이 구성하기엔 너무 비쌈

[익명(parrot0303)]

오푸스 정도면 4개로 택도없음

[익명(graphic8791)]

@ㅇㅇ 아 그거로 돌린다는게 GLM4.7인데 이건 소넷급이구나

[라이젠마스터(666tuna)]

GPGPU 서버 랙은 일반 개인 수준이 아닐 것 같은데

[늅헌(advise1341)]

보통 오픈소스 LLM 모델 수준을 전세대 SOTA급 모델 수준이라 생각하면 됨 오푸스는 현세대 sota급 모델에 가까워서 모델자체도 없을 듯

[데갤러 1(218.152)]

3억 근데 모델도 못구함

[데갤러 2(210.223)]

1. 일단 모델이 없고 2. 모델이 있어도 안됨 저거는 모델 하나가 아니라 다양한 멀티에이전트 파이프라인을 구성해놓은거라서 알고리즘도 작성해야함