네이버가 선두로 비전 인코더는 가져다 써서 기준 테스트 해준거고, 

결국 살아남은 lg, sk, 업스는 멀티모달할때 모달리티 인코더들 바닥부터 짜야하는게 명확해진건데


최소한 비전 인코더 스크래치부터 제대로 굽는건 메타 급 레벨에서나 가능함.

llm은 학습 레시피들 많이 풀리기도 해서 리소스 엔지니어링으로 풀 수 있는 정제 많이된 오픈 텍스트 + align 데이터가지고 어느정도 따라할 수 있는 llm과는 달리

비전 인코더는 연구 레벨에서조차 스크래치보다 다른 인코더들 섞어서 많이 써왔고, 진짜 스크래치 제대로 보여준데는 오픈소스 메타 외에는 없음 (예시로 qwen 비전 인코더도 연구 계보들 쭉 따라감) 비전 인코더는 학습 리소스 엔지니어링 외에 연구 레벨에서 쥐어짜야하는게 엄청 많고, dino train code 대충 가져다 쓴다고 재현되는게 아님


이거 제대로 할 수 있는데는 lg?에서 정도로나 보이고 (연구자들 이력봤을 때) 업스나 sk에서는 가랑이 찢어질 확률이 오히려 높음


멀티모달 전체를 프롬스크래치로 하라는거가 의도는 알겠는데 멀티모달 연구/프로덕션 트렌드 관점에서 이렇게까지 해야하나 싶음



독파모 목적이 원래 없는 국가 리소스 잘하는 놈 뽑아서 몰아주고 어떻게든지 따라가자는건데, 흑백요리사 보고 만들어낸거 같은 패자부활전이나 5팀->2팀 선정하는 리소스 분산시키는 선발과정을 보고 있으면 뭐하는건지 싶다 ㅋㅋ