그거 만들 돈을 OpenAI 지분 사는데 쓰고 개발 외주 맡긴 후 GPT-4o, o3에서 합성 데이터 뽑아서 실제 업무 투입에 적합한 크기의 Phi 시리즈 만드는데 집중하고 있음 그래서 OpenAI가 반항하는걸 싫어하는거고 OpenAI 모델을 Azure에서만 서비스하면서 수수료 짭짤하게 챙기는 중이지
ㅇㅇ 그리고, 훨씬 더 빠르게 경량화가 이루어지거나, 지금 같은 트랜스포머, 디퓨전 방식 말고 새로운 방식도 나타날 가능성을 염두하는 것 같음. 데이터센터 추가 건립 취소한 거 보면.
구글처럼 치고 나갈 거 아니면 OAI가 해봤던 거 하위호환 따라 만드는 건 에너지 낭비라고 보는듯
계속 비트넷이나 다른 경량모델 관련 연구하던데, 실사용으로 비비는 초경량 모델 각을 재는게 아닌가 싶기도 함