[일반] 근데 31b~35b랑 100b이상 모델이랑 차이많이남?

[익명(extra1505)]

근데 100b이상도 dense로 돌릴수잇어?

젬마4 31b 돌리고잇는데 젬3.5플이랑 솔직히 그다지 차이안나는거같은데

젬3.5플은 몇b정도될까? 난 코딩안하고 rp위주로함

[익명(swift6946)]

램이 그만큼 있으면 돌릴수는 있는데 오픈소스중에 100b 이상 dense모델이 거의 없을걸

[코사카와까모(wakamokosaka)]

그런당신을위한미스트랄미디움3.5

[Qwen(forest0754)]

보통 단기 채팅은 괜찮은데 컨텍 늘어나면 무너짐

[익명(local1645)]

llama3 405b가 덴스...긴한데 요즘은 뭐... - dc App