결국 강인공지능을 만들어내는 방법이란게
강화학습이든, 진화알고리즘이든 동일하게 "무작위"와 "선택" 에 의해서 이루어진다는것임
즉, 인공지능의 구조는 인간이 예측할수 없는 무작위성을 근본적으로 가질수 밖에 없다는 얘기임
이걸 해결하려면 "선택"을 잘하거나(무작위로 만들어진 다양한 해결법중 고르는것)
, 이미 개발된 인공지능의 작동을 실시간으로 지켜보면서 신경망 어디서 어떤 행동이 유발되는지 연구하고
수정하는 길이 있음..
결국 강인공지능을 만들어내는 방법이란게
인공지능을 통제하고자 한다면 인공지능을 더만들면 된다.
특이점 오면 인간 두뇌 확장을 통해서 인간도 강인공지능 수준이 될건데 뭐. 통제 왜 못해? 어차피 인간이나 강인공지능이나 개찐도찐인데.
현재 인공지능은 선택의 방향을 인간이 제시하는 방식이라 통제가 불가능하진 않을듯