정지문제, 불완전성 정리랑 근본적으로 같은거임

수학에서 공리계 역할을 ai에서는 코드길이가 하는거고 왜 하필 코드길이인지는 상상이 안가네

수학에서도 어떤 공리계를 가져와도 증명, 반증이 불가능한 명제가 무한히 존재하고(오해하면 안되는데 참, 거짓여부는 존재하는데 근본적으로 알 수 없음)

이를 해결하려면 더 강한 공리계를 데려와야함


그러면 이를 미루어보아 ai의 근본적 환각 문제의 해결책은?(저건 수학적으로 증명된거라 ai 모델자체에서 환각 문제는 영원히 해결불가능함)


1. 더 강한 ai를 데려옴. 이게 무한재귀적 강화가 이루어지면 제일 가능성 높음

2. 스스로 틀린답인지 옳은답인지 판별하게 시킴. 근데 그 판별하는 문제에서도 옳은 답을 내는게 근본적으로 안될 가능성도 있음. 

수학에서도 특정 명제가 증명가능한지 증명하는게 증명불가능할 수 있음.

그래서 ai가 "답은 이거고 이 문제에 대해서 옳은 답을 내릴 수 있습니다" 해도 신뢰할 수 없음.


근데 imo 6번문제를 두고 "몰라요" 한건 ai의 환각을 해결하는 거랑은 조금 거리가 있어보임

왜냐하면 IMO 6번문제가 근본적으로 옳은 답을 낼 수 없어서 몰라요 한게 아니라(애초에 이건 수학적으로 불가능 하긴 함)

그냥 단순히 시간적 여유가 없어서 몰라요 한 것 뿐이기 때문임.

IMO 6번문제 1년간 풀게하면 못풀까? 100%확률로 푼다고 봄.


그래도 원래 ai같으면 답 못찾아도 답이라고 빡빡우길텐데

못찾았다고 솔직히 말하는것도 장족의 발전이긴 함.

근데 논문속 내용은 우리가 이해하는 이거랑은 조금 다르다는 거.