[일반] 지금 추세가 이어진다면 파라미터 8B 수준으로도

[익명(210.178)]

나름 쓸만한 로컬 AI를 보게 될 수도 있음

나는 그 시점이 매우 중요한 분기점이라고 생각함

소수의 독점에서 다수의 참여로 바뀌는 중요한 계기

빨랑 그날이 오기를 기원함

[익명(110.145)]

이미 영어로는 쓸만함 3.1 8b cot mmlu 73임

[익명(210.178)]

좋은 소식이네

[천사다천사(jjtheman999)]

높은 성능의 AI가 경량화되는것의 최대 장점이 바로 이거임. 8B면 3060 12gb로도 잘돌아가는데 8B 성능을 극대화 하면 할수록 AI 독점을 막는건 물론이고 일반 사용자 및 개발자들의 참여로 시장 자체가 커지면서 AI 판 자체가 확장됨. 나는 8B 멀티모달도 기대하고 있음

[익명(210.178)]

시간 문제일 뿐 그런 날이 올 거라 믿는다