2025년 6월 논문이내;;
트윗 올리는 새끼들 장난하냐
볼사람 보셈
동작 원리: 모델이 어떤 문제를 풀었을 때, 그 결과물과 함께 "모델이 정답을 생성할 토큰 확률"을 계산
이 확률이 높을수록 올바른 추론을 했다고 판단하여 보상을 주는 방식
장점: 별도의 복잡한 검증 로직이나 인간의 피드백(RLHF) 없이도, 모델 내부의 신호만으로 일반적인 도메인(상식, 인문학 등)까지 강화학습이 가능
단순히 모델 확률만으로 계산하면 모델이 완전히 고장나기 때문에,
보상 편향 제거, 적응형 표준 편차 필터링을 적용했다고 함
...솔직히 논문 내용만 보면 2g2bt 같은데, 칭화대랑 싱가폴 국립대 연구라 뭐지 싶네
진짜 이게 된다고?
댓글 0