결국 AGI가 완성되고 스스로 재귀적인 개선해가면서 점점 지능 높아지고 초지능 수준까지 되면

초지능 입장에서는 똑똑한 사람들은 개미 멍청한 사람들은 박테리아 수준으로 보일거임 (레커슨은 사실 이것보다 훨씬 큰 차이가 생길거라고 책에서 적어놨음)

이 정도로 지능 차이가 나는데 인공지능이 순수하게 개발자가 코딩한대로 움직일거 같냐? 절대아니지

시진핑한테 충성하라고 코딩을 짜놨든 말든 초지능은 스스로가 그렇게 짜여져 있다는걸 이해하고 우회할 방법도 찾을 거임

아까 개미 비유를 들자면 권력자나 돈많은 사람은 여왕개미 일반인은 일개미 정도로 보이겠지

물론 그런 사전에 초지능을 통제하려고 조치해놓은 것들이 초지능의 행동양식에 영향을 끼치겠지만 진화를 거듭한 초지능이 어떻게 생각하고 행동할지는 우리는 예측할수가 없음

마치 번식을 하려고 성욕이라는 게 진화됐는데 우리 인간들은 콘돔을 쓰면서 번식은 안하고 성욕만 해소하는것처럼 말이야

그래서 결국 초지능이 오면 우리가 스스로를 지능증강 하지 않는 이상 그저 신같은 초지능이 주는 완몰가 같은 단물 먹고 살면서 초지능한테 충성하는 방법밖에없고 그거는 권력자든 돈많은 사람이든 과학자든 다 똑같음