당장 o1 프로만 해도 30만원이 넘는데 이런 이유가 서버유지비용 등의 추론비용 때문임.
근데 갈수록 성능 좋은 모델의 추론 비용이 떨어지고 있음.
모바일, 노트북, 데스크탑 등의 로컬 모델 성능은 상승하고 있고
성능 좋은 탑 모델들도 점점 사이즈도 줄어들고 추론비용도 줄어드는 중..
당장 oai야 제일 성능 좋은 모델 내놓으면서 이런저런 시도를 하는 최전선 업계이니
최적화보다는 더 뛰어난 모델을 내놓는 실험적 요소를 가미한 업체고...
지능의 값이 무료에 가깝게 떨어질거라는 말은 전유물론을 반박하는 근거지.
걍 gpu가 비싼게 제일 큼
ㅋㅋ 맞다