glm 5.2는 약 2천만원이면 집에서 돌릴 수 있을 거 같아.

gpt한테 물어봤거든

gpu 없이 돌리는게 가능은 하데 ㅎㅎ

cpu당 메모리 대역폭 문제 때문에,


1. 저비용 시스템, 2000만원.


am5 기반 에픽 cpu

ddr5 ecc udimm 풀소켓 장착. 이게 아마..

192기가까지 되던가.

no gpu 또는 gpu 병행.

llama.cpp로 돌리면 된다는거 같드만


2. 고비용 시스템, 1억 이상.


인텔 제온이나 amd 스레드리퍼

얘네는 cpu를 2개 이상 박는거지

메모리 채널이 8채널 16채널도 가능하다는거 같드만 ㅎㅎ

ddr4 ecc rdimm을 풀소켓 구성 ㅎㅎ

이게 몇천만원 나감 ㅎㅎ

메모리만 수백 기가. ㅎㅎ

그외 gpu 몇개 박으면

속도 꽤 잘 나온다 카드만 ㅋㅋㅋ

이 정도는 되야

제미니, gpt, claude 출력 속도 나옴 ㅎㅎ

컴터 돌리면 비행기 이륙하는 소리 난다고함

고로 액체 냉각 필수 ㅎㅎ