사잔학습 추론 rl처럼 뭔가 새로운 혁신보다는
이미 나와잇는걸 큰서버에서 정교하고 합처서 
스케일로 극대화 시키는것일듯

요즘 분위기 보면 그냥 이거임.
“프리트레인으로 다 된다” 하다가 막히니까 “추론 길게 돌리자” 갔다가 그것도 돈 너무 쳐먹어서 “그럼 RL로 미는 거지!” 했는데, 막상 해보니 효율 개판이라 또 난리남.
그래서 또 “다음 신기술 뭐냐” 하면서 주문 외우듯 벽치고 있음ㅋㅋ

근데 이제는 한 놈 키워서 해결하는 시대 끝났음.
요즘 메타는 합주 잘하는 시스템이 이김.
큰 모델에다 검색, 코드실행, 외부툴 붙이고, 필요한 순간에만 계산 더 때려박는 식으로 굴림.
깊게 생각한 결과는 디스틸해서 빠른 모델에 옮기고, RL은 이제 보조버프 수준.
데이터 자기가 만들고, 자기가 채점하고, 쓸만한 것만 걸러서 다시 학습시키는 폐루프가 핵심임.

요약하면, 지금은 오케스트레이션 싸움임.
뭐 막히면 다른 모듈로 우회하고, 느린 계산은 진짜 필요할 때만 쓰고, 결과는 검증기 여러 겹으로 거르고 다시 학습에 집어넣는 구조.
이게 안 되면 서버 크기 아무리 커도 그냥 전기난로야ㅋㅋ

결론 딱 하나.
큰 서버는 좋지, 근데 조합력 없으면 쓸모없음.
둘 다 갖춘 놈이 다음 판 먹는다.