[일반] 모델 추론에 관련해서 궁금한게 있음

[익명(39.119)]

추론 하는 과정을 보면 출력에 <think> ~ </think> 이게 추가되고 이걸 파싱해서 추론으로 간주하던데 저번에 추론 모델 데이터셋을 보니까 데이터셋 자체에 추론 내용이 따로 들어가더라고?

그럼 궁금한게 추론모델들은 답변할 때 답변 전에 뭔가 추론 알고리즘이 따로 돌아가는거임 아님 그냥  <think> ~ </think> 이걸 포함해서 더 많이 내뱉도록 학습시킨거임?

[EXERCENS(exercens02)]

한줄 요약 대부분의 CoT 추론 모델은 “<think>…</think>” 같은 토큰을 인코더-디코더 밖에서 따로 돌리는 알고리즘 없이 그냥 내뱉도록 훈련된 것이다. 따라서 추론(think)-단계와 답안(answer)-단계는 전부 같은 forward pass에서 생성되고, 프레임워크가 그 토큰을 분리해서 파싱할 뿐이다.

[EXERCENS(exercens02)]

내 o3가 이렇게 답해줌

[익명(39.119)]

그럼 그냥 답변을 조온나 많이 하도록 학습된건가

[EXERCENS(exercens02)]

https://chatgpt.com/share/6873da38-f958-8000-bdda-b394838b538a

[익명(39.119)]

이렇게 보니까 살짝 짜치네.. 근데 인간도 결국 공부할 때 이런식으로 풀이과정이랑 답을 한번에 공부하니까 결론적으론 비슷한건가