딥러닝 쪽에서 어떤 "모델"을 명명하거나 규정하는 가장 큰 기준은
그 모델을 최적화한 "목적 함수"에 근거하는 경우가 많음
르넷, 레즈넷, 알파넷 등등이 죄다 다른 방법론을 지향하지만 CNN으로 묶이거나
BERT와 GPT가 유사한 트랜스포머 구조로 구성되지만 전혀 다른 모델로 인식되는 이유도 그런 이유임.
그럼 LLM과 추론 모델의 목적 함수가 다르냐? -> ㅇㅇ
LLM은 흔히 말하는 고정된 배치 단위 토큰 loss로 계산되는 애들이고
거기에 살짝 Instruction-튜닝용 강화학습이 첨가되는 애들임.
하지만 추론 모델은 "학습 단계"에서부터 "문제 해결"이라는 전혀 다른 목적에 대해 최적화를 진행해서 학습됨.
그리고 배치 단위 토큰 loss가 아니라, 토큰 디코딩을 통해 loss가 근사되는 거라, 사용되는 학습 방법도 본격적인 강화학습의 정책 최적화에 깊게 의존하고.
즉, 문자, 시계열 데이터를 통해 모델과 상호작용한다는 점에 있어서 표면적인 유사점이 있는 거지,
모델 자체가 학습되는 제약과 목표에 있어선 추론 모델은 LLM과 실제로 많이 멀어졌음.
추론도 llm으로 이해했는데
o1은 llm 맞고 o3은 llm이 아닌 이유는 뭐임?
ㄹㅇㅋㅋ
ㄴㄴ르쿤옹을 옹호하는 게 아니라, 실제로 추론 모델은 LLM과 다르다는 거임.
이게 ㅈㄴ 웃기네 ㅋㅋㅋㅋ
르쿤은 파도파도 괴담만 ㅋㅋㅋㅋ - dc App
아니 얀르쿤 발언 자체는 근데 병신같은거라고
ㅇㅇ 그걸 부정하는 건 아님
어차피 여기 애들은 llm이든 아니든 신경 전혀 안씀
그냥 사후학습된 LLM임 - dc App
실제로 ACL 쪽 서베이들 텍소노미들 보면 LLM과 추론 모델을 별도로 분류함
gpt한테 물어보면 다르게 대답하던데 추론을 모사하는거지 내부적인 구조는 여전히 llm이라고