보니까 성능 꽤 준수하게 나왔다던데 이거 로컬에서 돌릴만한가
[일반] DeepSeek V3 써본사람 있음?
익명(landofooo)
2024-12-29 05:58
추천 0
댓글 13
다른 게시글
-
나쁜 AI에게 완몰가로 시험받는 꿈을 꿈 [5][일반] 래머(cramer) | 24.12.29추천 1
-
Open ai는 작곡 관련 ai는 아에 관심없나? [1][일반] 도둑도둑7(doraenk3) | 24.12.29추천 0
-
브이알로 사람 모아서 오겜 가능함? [2][일반] 익명(jonpark75) | 24.12.29추천 0
-
......?o1프로 ai 감정없는거에 대한거말하는데 [2][일반] 뜨뿡(218.155) | 24.12.29추천 0
-
에이알 나와서 오겜 참여 하면 꿀잼[일반] 익명(jonpark75) | 24.12.29추천 1
-
O1 실체감 구리다는 사람들 기준이 모르겠음 [6][일반] 익명(wanted7407) | 24.12.29추천 2
-
특이점 이후 시대 다룬 영화 추천할만한거 있음? [4][일반] 익명(49.164) | 24.12.29추천 0
-
블랙미러보면 완몰가<< 이게젤 무섭다 [2][일반] 익명(1.240) | 24.12.29추천 1
-
나는 agi가 인류의 멸종타임어택의 돌파구가 되야한다고 믿음[일반] 익명(58.125) | 24.12.29추천 1
-
근데 gpt 보다 제미니가 더 일관되고 정확한 답변 하는데? [1][일반] 익명(115.39) | 24.12.29추천 0
로컬에서 600B ㄱㄴ?
MoE라 실제 activation되는건 31B 정도라는데
걍 api가 속편하긴 할듯
로컬로 사실상 불가능 ㅋㅋ
그래도 api 비용 싸긴 하네
MoE는 추론 효율성이 높아지는거구 VRAM은 똑같이 600B짜리를 올려야함 ㅋㅋ 일단 올리고나면 추론 속도나 비용이 싸지는거구
아 vram 사용량은 못줄이나보네 아쉽
Deepseek v3 오늘 API로 좀 써봤는데 좋은 것 같음. 코드 오류 수정도 잘해주고 4o ~ 3.5 sonnet 사이 정도 느낌
아직은 3.5 소넷 밑이긴 한가보네
qwen 신버전 기다러 보는것도 좋지않을까?
나쁘지않을듯
로컬 가능했으면 이미 다 쓰고있지
ㅠㅠ