딥러닝 쪽에서 어떤 "모델"을 명명하거나 규정하는 가장 큰 기준은 


그 모델을 최적화한 "목적 함수"에 근거하는 경우가 많음


르넷, 레즈넷, 알파넷 등등이 죄다 다른 방법론을 지향하지만 CNN으로 묶이거나


BERT와 GPT가 유사한 트랜스포머 구조로 구성되지만 전혀 다른 모델로 인식되는 이유도 그런 이유임.


그럼 LLM과 추론 모델의 목적 함수가 다르냐? -> ㅇㅇ


LLM은 흔히 말하는 고정된 배치 단위 토큰 loss로 계산되는 애들이고


거기에 살짝 Instruction-튜닝용 강화학습이 첨가되는 애들임. 


하지만 추론 모델은 "학습 단계"에서부터 "문제 해결"이라는 전혀 다른 목적에 대해 최적화를 진행해서 학습됨.


그리고 배치 단위 토큰 loss가 아니라, 토큰 디코딩을 통해 loss가 근사되는 거라, 사용되는 학습 방법도 본격적인 강화학습의 정책 최적화에 깊게 의존하고.


즉, 문자, 시계열 데이터를 통해 모델과 상호작용한다는 점에 있어서 표면적인 유사점이 있는 거지,


모델 자체가 학습되는 제약과 목표에 있어선 추론 모델은 LLM과 실제로 많이 멀어졌음.