일리야가 쓴 논문에 있는 '검증모델' 이라는 말에 빠져서


재귀개선 되는 줄 알고 혼자서 존나 브레이킹 댄스 추면서 특이점 ㅇㅈㄹ 하고 있네 


지금 o1 이 가지고 있는 추론예제 데이터 들도 인간 라벨러가 검증모델이 내놓은 결과에 대해서 한땀한땀 수작업으로 검증하고 넣은 결과들임 


검증모델조차도 인간라벨러가 수작업으로 넣은 데이터들에 의존하고 있기 때문애 자신의 수준을 넘는 추론예제에 대한 참과 거짓을 분별하는 프로세스에 대해서 정확도가 떨어질 수 밖에 없음 


결국 현재 COT 강화학습 방식을 차용하고 있는 OPENAI GPT 모델은 인간이 내놓은 정답이 정해져있는 추론문제들을 추론하면서 천문학적인 '옳은 추론예제들을' 학습하기 시작하면서 인간지성의 최정점에 도달하게 될거임 


그런데 문제는 여기서 발생한다 


그 모든 추론예제들을 학습해서 마개조 되어있는 GPT 에게 수학에 대한 새로운 증명식을 유도하는 개방형 추론을 요구했을때 


그 추론예제가 맞냐 틀리냐를 어떻게 검증 할 수 있냐는 거임 


같은 수학자들 끼리도 자신 보다 수준이 높은 수학자의 증명에 대해서 옳고 그름을 따지지 못하는 상황임 


GPT 의 지능을 향상 시킬려면 '옳은 추론예제' 를 학습시켜야 만이 가능한건데 


GPT 가 내놓은 추론예제에 대해서 '옳다 그르다' 를 판별할 수 없을정도로 그 수준이 높아진다면 


대체 무엇을 근거로 이것을 검증해줄수있냐는거지 


대체 내 말에 대해서 수용이 아니라 반론으로 대적하는 이유를 모르겠음


논리적으로 전혀 틀린말이 아니지 않음? 


그래서 리만가설과 같은 그 가설이 참임을 절대적으로 가정해놓고 시작하는 난제들이 필요한거임 


그냥 그 가설이 맞다고 가정해 놓고 


그 가설을 증명하기위한 추론 증명식들에 대해서 그 가설을 근거로 참과 거짓을 판별해야 함 


그 가설에 부합하면 참이고 부합하지 않으면 거짓이지 그렇게 루프를 돌려놓아야한다는거