힐베르트의 10번째 문제 : 유한차 디오판토스 방정식의 해를 구하는 일반적인 알고리즘이 존재할 수 없다고 증명된 것 처럼 수학의 세계는 그냥 불가능한 것들이 있음.


5차 이상의 방정식의 근의 공식을 만드는게 불가능하다 같은거도 그렇고 개인적인 생각은 인간 수학자, AI 수학자 모두 벽에 막히는 수학난제가 있을 수 밖에 없다는 생각이 들었음

수학이라는 학문은 메타적인 학문이라서 어떤 수학 이론에 대한 메타수학 이론과 그 메타수학 이론에 대한 메타-메타수학 문제도 계속 나올 수 있어서 지성이 있는 존재가 밀어붙일 수 있는 한계수준이 있을거 같음

AGI를 구성하는 수리적 체계가 있을텐데 그 체계에 대해서 AGI가 본인의 수리적 체계 내부에서 발생한 문제에 대해서 자기 스스로 알 수 있을지 모르겠다는 생각이 들었음 인간도 자기 스스로를 모르겠을 때가 있는데 AGI도 그럴 가능성이 있으니까

마지막으로 그냥 드는 생각은 "공학적으로 구현 가능한 것"들은 "물리학적으로 가능한 것"들의 집합의 부분집합이고 "물리학적으로 가능한 것"들의 집합은 "수학-논리학적으로 가능한 것"들의 집합에 부분집합이라고 생각함 근데 AGI가 가능한 수준은 공학적으로 구현 가능한 것들 까지가 한계 같음