[일반] gpt oss 20b m2 16기가에서 버겁네

[익명(blend4330)]

사파리랑 같이 켜기만해도 버벅거림;; ㅋㅋㅋ

[익명(nose8049)]

cerebras api 쓰면 초당 2900토큰 나옴 ㅋㅋ 가격도 백만토큰에 0.65달러밖에 안하더라 그거 보고 로컬은 절대 성능으론 api 못이기겠구나 싶음

[익명(blend4330)]

헉 왤케싸누