[일반] gpt4급을 로컬로 돌리려면

[222(221.152)]

컴퓨터 성능이 대충 어느정도 되어야할까

경량화+최적화 안되면 현재 가정용 컴퓨터로는 안될것 같은데

[익명(59.17)]

지금 기준으론 A100이 그나마 흉내는 내는데 H100하나는 있어야 가능할듯

[익명(223.38)]

그리고 그걸 감당하는 전기세 ㅋㅋ

[222(221.152)]

이래서 전유물 소리가 나오는거구나

[익명(223.38)]

나중에 산업용전기써도 되려나 ㅋㅋ 생성ai니 ㅋㅋㅋ