수많은 사용자들이 있는만큼 데이터 센터에 일정 부분을 할당해서 쓰는 거다. (물론 병렬연결 인만큼 그렇다고 성능이 1/사용자 만큼 낮아지는 건 아니다.)
즉 서비스 용으로 상업화된 ai들은 근본적으로 데이터 센터 전체를 쓰는게 아니다.
당연히 데이터 센터 전체 활용보다 성능에 월등한 제한이 있겠지?
그럼 언제 데이터 센터 전체를 쓰느냐.
처음 모델을 학습할때, 그리고 독점적으로 기업이 데이터센터를 사용할 때(개발 및 연구 등을 목적으로) 이다.
지금 gpt4 서버만 해도, 내부 독점적으로 데이터센터를 사용해 나오는 성능은 우리가 아는 것과 아주 다를 확률이 크다.
그러니 단순히 사용자에게 극히 할당된 수준의 ai를 보고 "아직 멀었네" 하는 건 얼마나 멍청한 짓인지 생각해 봐야한다.
그러니 진정한 내부 ai의 수준, 데이터 센터가 뽑는 최대 능력치는 일반 사용자 기분으로 아무도 모르는 거다. 아마 트위터발 호들갑은 정말 그럴만한 것을 보고 했을 가능성도 어느정도 있다고 한다. 기본적으로 연구용으로 할당된 데이터 센터의 부분은 민간에 풀린 것과 압도적일 테니까.
당장 연구에 필요한 agi는 상업용으로 분활될 필요없이 이 데이터 센터 전체를 사용했을 때 나오기만 해도 된다.
그러니 open ai 내부에는....
사정 아는 사람들이야 내부 모델이 훨씬 크겠다 생각하지 안보이니까 모른다는게 보통의 합리적인 생각이지
학습시 요구되는 메모리는 추론시 요구되는 메모리의 몇배인지 생각하면 그정도까지는..
시간축 스케일링으로 성능향상이 되는 지금 시점에서?
로그스케일이라 o1 제대로 쓰면 어떨지 궁금하긴 한데 세상이 뒤바뀌고 트랜스포머 o1급 도약이 생기고 그러진 않을 것 같음..