[일반] 2b 모델도 추론넣으면 성능 개좋아질까?

[익명(221.157)]

젬마 2b에 추론 넣으면 어케되려나 ㅋㅋ

- dc official App

[익명(dread2836)]

임계점이 있다 본다

[익명(dread2836)]

환각에 환각을 더하면 더 큰 환각이 될 뿐이라 생각함

[익명(221.157)]

QWQ나 o1 mini처럼 적어도 10b 이상은 되야 쓸만하려나 - dc App

[디시콘발사대(fcbjsjmu1t9f)]

제곱이 1을 넘는 지점?

[익명(dread2836)]

ㄴㅇㅇ

[익명(7i3eogmeun4l7)]

좋아짐. 대형 모델마냥 다이나믹하지는 않음.

[익명(7i3eogmeun4l7)]

2b짜리 모델이 출력이 좋아져봐야. 2.001b 정도의 성능향상을 보이는 정도임.

[초존도초(htr3c654r6ft)]

내가 약 2년 전에 GPT-4 막 나와서 개존나 느릴 때 “미래에는 분명 내 똥 노트북 한 대에서 로컬로 이놈 돌릴 수 있게 될 거야”라고 했는데 그 당시 GPT-4 성능을 8B에서 구현한 게 올해 나왔었지... 난 이제 이렇게 생각함 ”미래에는 2B 로컬 모델로 지금의 o1-preview 성능을 낼 거“라고. 아마 내년에 나올 듯 - 그러나 특붕이라면 2025 AGI인데 뭔 상관이냔 말이지만.