[일반] 저벤치 모델들이 한번 오답을 정답으로 인식하면 왜 고집부리는거야??

[익명(pianist3234)]

한번 오류난 상태에서 외부 도구로 계산해보게 추론시키면 정답은 바로 찾는데 그 도구가 오류라면서 다른 도구들로 계속 재시도 해보다가 도구들이 문제있는거고 자기가 내린 오답이 맞다고 최종답변 내놓네

고집 존나쌔노

[ㅇㅇ 1(121.183)]

토큰 쌓이면 특히 그래서 그냥 다시 질문하는게

[익명(homeroom8686)]

기본적인 응답에는 모델이 과신하도록 설정되있는데 ( 1+1 , 지구는 둥글다 같은) 토큰이 숫자 제대로 못나눠서 오답내놓은거 이미 편향에 차있어서 도구에서 불일치 나와도 재검토나 도구우선 로직 무시해버리고 초기답변이 맞다고 해버리는 경우가 나옴