agi가 되어도 그냥 인간들이 만든 데이터가 맞다는 전제하에 시뮬레이션 돌려보는 것만 가능할 거고, 그 시뮬레이션 결과로 여러가지 가설들을 세울 수는 있겠지

근데 검증은 누구하냐? 인공지능에 운동능력이 없는 한 인간이 도와줘야 옳은 가설이고 새로운 지식인지 판명해 줄 수가 있음.

그러면 당연히 속도적인 측면에서 한계가 발생함. 이것은 추후 로보틱스가 발전해서 인공지능이 혼자서 검증 가능해져도 마찬가지임

인공지능이 컴퓨터 속에서 전기적 신호나 다양한 칩들의 기술적 한계안에서 움직일 수밖에 없듯이, 현실의 물리 세계에서는 재료의 한계와 마찰력, 중력, 관성 등 또다른 기술적 한계속에서 속도가 결정 됨. 그리고 이 속도는 상당히 느릴 수밖에 없음.

당장 인공지능이 땅 위에 건물 하나를 인간 도움없이 올리는데 몇년이 걸릴 지 생각해보셈. 인공지능이 양자역학을 혼자서 생각해내고 검증하기 위해 실험을 설계하고 재료를 구하고 입자들의 반응을 기다리며 관측을 한다고 생각해보셈. 인공지능이 현실을 바꾸고 새로운 지식을 만들 수 있는 속도는 우리 생각보다 그렇게 빠르지는 못할 것임.

물론 갈수록 빨라지기는 할 것인데, 중간중간 병목현상이 일어나는 부분들이 있을 것임. 하지만 꽤나 오랫동안 지금처럼 인간과 협력하면서 발전해야 할 것이라고 생각함.

초지능을 뭐라고 정의하냐에 따라 다르지만, 적어도 모든 것을 다 아는 존재란 것은 인공지능 혼자 시뮬레이션을 통해 재귀개선 해서는 발생할 수가 없음. 관측되지 않은 우주에 뭐가 있는지 알려면 예측하는 것보다는 직접 관측하는 것이 더 정확한 것처럼. 엄청나게 똑똑하고 논리적 판단과 예측을 잘하는 친구이긴 하겠지만 신적인 존재는 못될 것임.