꽤 괜찮은 모델인데 갤럼들은 안쓰냐?
4060ti 16gb 한장이면 컨텍스트 길이 70000 딱 들어가는데.
1. 짜장면 벤치에서 엄마가 왜 짜장면을 싫어하는지와 화자의 성별 맞추기 통과.
2. 운동장 벤치에서 말 4마리가 동시에 출발선에 서는 시간 계산 통과.
3. 일반 질문에 대한 답변 수준 통과 (이건 내 기준)
4. slm에 대한 활용법 및 성능수준을 인터넷 검색을 통한 답변 통과 (내기준)
5. 이야기 작성 능력 통과 (내기준)
6. 코딩능력 통과 (이건 제미니 pro 보다 나음. 제미니가 인정함 ㅋㅋ)
굳이 아직 로컬 써서 할만한게 없음 그래도 발전하고있는건 좋은거지
핵심을 찔렀어.
제미니 프로로 바이브코딩하는데 100개 제한 걸리는 것 때문에 씀.
@피씨(61.255) 오 그건 확실히 좋네
해당 댓글은 삭제되었습니다.
그니까 지금 게이밍컴퓨터 수준에서 도는 작은 모델들 중에 1등 같아서 써봤어.
로컬도 점점 올라오네 좋다
openAI에서 다음에 내주면 더 엄청날 듯.
4060 8gb로 돌렸는대도 꽤제대로 돌아갔음
MoE 모델이라 조금 모자라도 잘 돌아가드라