o1 같은 모델은 진작에 만들었었는데
비용 문제로 서비스를 못하고 있었던거임
기업이나 소비자나 둘다 비용이 낮아야 서비스 제공 및 이용이 수월한건 당연한거니까
사실 나도 그동안 계속 4o 수준에 경량화된 모델들만 계속 나오니까 설마 ai 성능 발전에 한계가 온건가 걱정 했었는데
o1같이 추론이 가능한 모델이 나오니까 이젠 무조건 경량화가 필수인게 체감이 된다
o1 사용량이 무한대가 되려면 컴퓨팅이 엄청 필요할텐데
이건 칩 보유량을 떠나서 경량화 및 토큰 구조 개선도 필요할거임
물론 개발자들이 알아서 하겠지만
경량화는 ㄹㅇ 필수다
ㅇㅈ 그래야 휴머노이드에 접목을 할테니
ㄹㅇ 지금도 개큰 모델들 많을거임 실제 서비스를 할만큼 경량화를 못해서 문제지
새모델 안내고 경량화만 주구장창하던 이유가 있었음 ㄹㅇ
데이터 센터 존나 지어서 물리적으로 스케일링업 준비하는 동안, 경량화 존나하는게 효율적입 - dc App
그걸 이제야;; 디바이스에 처박을려면 경량화 필수임.