8-900만원 정도 하는 맥스튜디오, 맥북으로 gpt3.5 정도 성능의 ai를 쓸수있는데
챗gpt처럼 답변제한, 검열 없이 무제한으로 돌릴수있어서 사용량 많은 사람한텐 더 좋을듯
성능도 지금 기준 3.5지 ai는 좀만 기다려도 소프트웨어적으로 성능이랑 효율이 계속오르니
8-900만원 정도 하는 맥스튜디오, 맥북으로 gpt3.5 정도 성능의 ai를 쓸수있는데
챗gpt처럼 답변제한, 검열 없이 무제한으로 돌릴수있어서 사용량 많은 사람한텐 더 좋을듯
성능도 지금 기준 3.5지 ai는 좀만 기다려도 소프트웨어적으로 성능이랑 효율이 계속오르니
나도 한대 들일까 검열 개짜증나던데
천만원 정도면 살만함
ai컴이 뭐임??
맥으로 어케 돌리나 했더니 맥은 통합메모리구나 몰랐네
근데 나는 맨날 GPT4 쓰면서 검열 때문에 짜증난 적은 거의 없어서...
염병 ㅋㅋㅋㅋ 3.5 파인튜닝한거 900만원어치 다 쓰는데 100년도 더 걸리겠다
내가 400만원짜리 맥스튜디오 쓰는데 mlx개발 활성화 안 되는 이상 AI돌리기엔 개구데기임
400이면 램 64기가 따리인데 당연히 못돌리지
램이 문제가 아니라 GPU가 구데기임 엔비디아랑 비빌려면 MPS+뉴럴엔진+GPU 동시에 다 써야하는데 지금 파이토치에서 mps만 지원함
맥스튜디오면 m2 max따리일텐데 ㅋㅋ 그걸로 안되는게 당연하지 지금 m4 max랑 비교하면 gpu는 하늘과 땅차이인데