[일반] 여기 선생님들은 컴퓨터 사양은 어느정도신지요?

[익명(counsel8318)]

AI 돌리려면 기본 사양이 좋아야 한다고 들어서 말입니다.

[데이토(moon73)]

로컬로 이미지 뽑거나 채팅할려고 그런거면 관련갤이나 아카로 가는게 빠름

[익명(spin4037)]

로컬로 텍스트나 이미지 가볍게 돌릴거면 기본적으로 브램 24 써야함.

[익명(counsel8318)]

클로드같은 기성 ai도 사양을 많이 타는지요?

[ㅇㅇ 1(218.54)]

@ㅇㅇ 그런 llm은 로컬로 못돌려요

[ㅇㅇ 2(211.185)]

음...클로드 같은 걸 로컬로 돌릴 수 있냐고 물어보시는 걸 보면.... AI는 컴퓨터 사양 좋은 걸로 돌리는 로컬모델이랑, 그냥 웹서비스 하는 모델 둘로 나눌 수 있는데. 웹서비스 하는 모델이 검열이 좀 있긴 해도 성능이 압도적이니까, 그냥 웹에서 서비스 하는 모델들 쓰시는 걸 추천드려요. 취미로 돌려보는 거 아니면 로컬은 아직 의미 없음. 그리고, 그냥 가벼운 흥미 때문에 돌려보기라도 할거라면 그냥 코랩 같은 거 월 1만원만 내도 T4 같은 GPU 써볼 수도 있으니 입문은 차라리 이런 쪽에서.

[ㅇㅇ 2(211.185)]

아 그리고 LLM들도 크기가 다양해요. 말씀하신 클로드나 GPT 같은 건 절대 못 돌리고요. 요즘 경량화된 모델들 있긴 해서 로컬로 돌아가긴 할텐데, 당연히 성능이 좀 낮아서 굳이 검열 피할 목적 아니면....또 오픈소스 모델들도 약간 검열하고 풀어주기도 하니까요.