최근에 chatgpt agent 시스템 카드 발표하면서 o3의 환각은 일반적으로 쓸때 생각보다 엄청 낮다는게 공식적으로 밝혀졌음

근데 실제로 o3를 사용해보면 o3가 달아놓은 출처에 해당 내용이 없는 현상이 많이 보임. 이를 보고 우리는 환각이라 생각하는데 왜 시스템 카드에서는 환각 2-4% 정도로 엄청 낮게 찍히는걸까 의문이 듬

그 이유는 그냥 달아놓은 출처가 잘못된거임. 



이런 현상은 용량 큰 pdf 파일이나 텍스트량이 많은 웹사이트를 출처로 달때 자주 발생하는데, o3가 추론한 내용이나 참조한 출처들을 전부 다 살펴보면 거기에 숨어있는 경우가 대부분임


예를 들면 출처로 pdf 14페이지 특정라인을 달아놨는데 실제로는 3페이지에 있다던가 아니면 다른 pdf 파일을 찾아보면 실제로 그 내용이 있는 경우가 많음. 웹사이트 출처도 마찬가지로 엉뚱한 사이트나 위치를 출처로 달아놓는 경우가 많고 실제 o3가 추론하면서 탐색한 내용이나 출처로 달아놓은 거 다 뒤져보면 거기에 대부분 있음



이 이유에 대해서 oai 공식적으로 공개한 내용은 없지만 o3 pro는 o3에서 토큰 길이와 추론 시간을 늘린 버전인데 그렇게만 해도 출처 오표기가 줄어드는걸 봐서, 추론 비용과 출력 비용을 최적화하기 위한 과정에서 출처의 정확한 위치를 놓치는게 아닐까 싶음.