웹에 올라온 32b 모델 한번 돌려봤는데 존나 충격받음;;

수능 수학 존나 어려운 문제 두 개 던졌는데 둘 다 맞추더라 ㅋㅋㅋㅋㅋ

시간도 그록 추론 모델하고 1~2분밖에 차이 안 남.

모델 크기도 20기가, 35기가, 66기가 세 가지던데

내 집 컴터 그래픽카드가 씹구져서 로컬로 돌리니까 시간 뒤짐 

느낌상 5090 기준으로 만든 거 같은데
딥시크 671b랑 수학, 코딩 성능 비슷한데 용량을 저만큼 압축한 게 레전드임 ㄹㅇ
미국 레딧 반응도 소설 잘 써준다면서 로컬 모델 중에 미쳤다고 난리남

자연어 처리만 조금 더 손보면 농담 아니라 GPT 4o 하위호환급 ㅇㅈ?  


집에 그래픽카드 후지면  QWQ 홈페이지 32b 모델 골라서 테스트 가능하다. (셋팅에서 한국어 설정 ㄱㄱ)