[일반] 슈퍼젬마 잘쓰는 애들은 다 맥 사용자임?

[익명(troop7060)]

마지막에 나온 모델 받아서 쓰는데

lm 스튜디오 찐빠나고 라마.cpp로 헤르메스 연결해도 좀 찐빠인데

윈도우라 그런가;;

[coed(coed11)]

3080ti 16gb 노트북 있어서 26b 다운받아서 해봤는데 16 다올리니까 얘가 무한로딩 걸림 그래서 30말고 한 21놓으니까 되긴 하는데 버겁다

[익명(troop7060)]

vram 48gb라 램 문제는 아닌거 같음

[coed(coed11)]

뭔글카인데 48기가노;;;

[익명(sudden9813)]

윈도우가 좀 구리긴 한데 llama.cpp로 gguf로 해보든가