[일반] qvq 로컬에서도 이미지 인식 되는거임? 멀티모달?

[익명(kimania3)]

아님 로컬에선 텍스트만 되는거??

로컬에서 멀티모달 제대뢰 되는 llm 지금까지 단 한개도 없었지?

[콜라조무사(tkatjdrhdghkrnr123)]

능지 제외하고 이미지 인식 기능 있는것만 보자면 llava라고 몇년전에도 있었음

[콜라조무사(tkatjdrhdghkrnr123)]

머 로컬이라고 이미지 인식이 안되는건 없음

[익명(kimania3)]

아.... 그런거? qvq는 로컬에서 이미지 인식 지금 잘 되는거야? 4090으로 가능해?

[콜라조무사(tkatjdrhdghkrnr123)]

ㄴㄴ 4090 브램가지곤 72b 택도없음. 컴터에 램 많다면야 돌릴순 있겠지만 병목때메 진짜 엄청 느릴거임.

[익명(kimania3)]

양자화 4비트 그런걸로는 안되나?? 찐 몰라서....

[콜라조무사(tkatjdrhdghkrnr123)]

72b면 4비트로도 개빡쎔. 8비트여야 비빌만할듯ㅋㅋ 대신 모델이 바보가 되버리지만

[익명(121.178)]

이미지 인식 되는 멀티모달이야 많았지... qvq는 72B 모델이라 4090에서는 꽤 빡셀 것 같긴함

[익명(121.178)]

좀 가벼운거 찾으면 paligemma 2 같은 애들 찾아보셈

[익명(211.57)]

Llama도 이미지 인식 됨