https://gall.dcinside.com/mgallery/board/view/?id=thesingularity&no=597287&s_type=search_subject_memo&s_keyword=%ED%86%A0%EB%A1%A0&page=1


Q: AI의 자기 개선 가능성은 어떤가요?

A: (Pavel Izmailov) AI들이 서로의 증명을 검증하고 개선하는 자기 개선(self-improvement) 방식의 강화학습이 가능합니다. 증명을 검증하는 것이 생성하는 것보다 쉽다면, 이는 매우 효과적인 발전 방법이 될 수 있습니다.


실제로 그부분을 인지하고 타오같은 수학자들과 협업하면서 수학자의 휴리스틱을 구현하려고 노력하는 것 같고

루머로 나오는 이야기들을 보면 실제로 구현해냈을지도 모른다고 생각함