비전 인코더랑 비전 디코더
이거 두개 우리나라에서 만들수 있는 기업이 없음?
밑에 글 보니 메타 밖에 없다는데 그럼 qwen 모델은 뭐임? 알리바바는 어떻게 한거임. 얘도 meta거 무단 도용한거임??
그리고 구조만 가져와서 사전 학습도 힘듬? 데이터 이외에도 학습이 ㅈㄴ 어려운건가
이거 가능한게 중국(알리바바, 텐센트)이나 미국(구글,메타,openai)같은 기업 뿐인지도 궁금함
그리고 무엇보다 사후학습이 되는데 왜 사전 학습이 안되는지 이해가 안감(데이터 량이 아니라 기술적으로 안되는 이유를 모르겠음)
Gpt에 물어보라는 나쁜말은 금지.
내가 알지 못하는 정보인데 gpt말이 맞는지 검증도 못해서 님들 의견도 참고하고 싶음
ㄴㄴ 걍 챗봇이랑놀아 어차피 비교하다가 더 유용한 쪽을 선택할테니까
이런정보는 쳇서비스한테 물어보면 안됨.
챗서비스는 문서들고와서 읽고 답해주는거지 저런류의 질문은 도움이안됨
contrasitive learning이 기본인데 데이터도없고 실험을 정말많이해야하는걸로앎 그과정에서 엔지니어링도 많이 들어가고 근데 뭐가 더어렵다하기엔 사람마다 관점의 차이가있을수있다 생각하는데 vision encoder는 기본적으로 맨바닥 헤딩해야하고 무엇보다 open된 데이터가 적은걸로앎
QWEN 비전 인코더도 다른 인코더 이어학습 한거임. LLM 들 중 계보없이 프롬 스크래치 논문들은 모두 VLM 성능 떨어지는거 깨닫고 비전 인코더 가져다 씀. DINO 시리즈 정도가 진짜 프롬스크래치 정석이고, 나머지는 다 섞어쓰고 있는거 어떤 방식이든
외국에도 드문데 한국에 있겠냐