지금 o1이 불만족 하다는 사람도 많던데 기본적으로 베이스 모델은 gpt4이니까 추론과 파인튜닝만으로도

이정도 성능상승을 보여주는게 낙관적인듯 

거기다가 일리야가 말했던대로 사전훈련은 끝나고 추론의시대임 

실제로 하드웨어도 이에 따라서 흐름이 바뀌는 중 

이전의 하드웨어는 사전훈련에 초첨을 맞췄다면 

블랙웰은 이전 모델에 비해서 전력소비와 추론에서 수십배의 효율을 보여주는 퍼포먼스라서

ttc 스케일링으로 꽤 큰 폭의 도약이 기대됨

사전훈련도 이제 유의미한 데이터는 다 끝났다고 하지만 아직 영상,이미지같은 데이터는 좀 남았기에

앞으로 한 번의 스케일링 정도는 더 유효하지 않을까 생각이듬

이상 고졸 노가다꾼