초지능이 다양한 방면에서 혁신적인 아이디어들을 내놓는다고해도
그걸 인류가 납득하냐 못하냐는 별개의 문제라고 생각함
성능은 초지능일지라도 AI는 본질적으로 블랙박스적인 면이 존재할수밖에 없기때문에
혹시라도 인간에게있어 치명적인 문제요소를 간과하는경향이 있을지도 모르니까 언제든지 불안할수있거든
따라서 초지능의 기획안이 나올때마다 엄밀한 논증을 거쳐서
최소한 전문가들,지도자들 사이에서 납득할수 있게끔 해줘야 한다고보는데
문제는 분명히 초지능 이새끼들이 내놓는 혁신적인 아이디어라는게 프린키피아나 상대성이론마냥 당대의
해당분야 전문가들도 난해하게 여길정도로 기존개념의 토대를 잘게 해체한뒤 또다시 고도의 체계로
재구성한 것이라고 생각함
따라서 다방면에 걸쳐 쏟아져나올
초지능의 씹소리들을 제대로 이해하고 논증하기위해서는 분야별 도메인지식 외에도
수학적모델링 및 이를 하나하나 검증할 수학자가 상당수 필요하지않을까?
일반적으로 생각하는 초지능이면 그새끼가 내놓는 답은 다 맞고 증명도 존나 풀어서 써주지 않을까? 그냥 (전) 수학자들은 보면서 “ㅋㅋㅋ 와 지리네 이거 어케 생각했노 ㅋㅋㅋ” 이러고 딸치면 됨
그게 씹소리인지 제대로된 증명인지는 인간수학자가 검증해야 된다고봄 알고리즘의 특성상 복잡한기획일수록 기존의 코딩처럼 거의 완벽한 정확도를 기대하긴 매우 어려움 우리가 알지못하는영역에서 괴상하고 비약적인 사고방식을 가진채 개소리를 하고있을 가능성을 배제하기가 힘듦
따라서 최소 수십년에서 보통은 수백년 혹은 어쩌면 인류멸망전까지 인간수학자와 전문가들에의해 아이디어들이 검증을 거칠 가능성이 나는 높다고본다 물론 초지능이 스스로 자기구조를 뜯어고치면서 기존코딩수준의, 혹은 그이상의 정확도를 모든방면에서 보증할수있음을 단번에 증명해내면 얘기가 달라지긴한데 그게 가능할지는 모르겠다
어떤 답을 내놓기만 하는게 아니라 증명까지 얼추 같이 만드는거면 검증만 하면 되니 수학자 위상이 훨씬 떨어지지않을까? 답을 도출해내는게 아니라 검증만 하는거면 난이도가 훨씬 쉬워지니
그냥 희망 또는 집착을 버려라ㅋㅋ 수학자라는 직업이 완전히 멸종된다 해도 그리 대단한 일도 아니다
그리고 아무리 어려워 보이는 수학이라 한들 수학의 정량적인 논리 체계는 다른 분야 뭐 예를 들면 윤리, 예술 이런 분야에 비하면 참 거짓의 판단이 너무나 명백하기 때문에 만약 너가 말하는 초지능이 정말로 나온다면 저런 분야 전문가들보다는 수학자들이 아마 제일 빨리 사라지겠지