그동안 인류 역사에서 변하지 않는 명제가 하나 있었는데, 그건 바로 '개인은 집단을 이기지 못한다'였음
왕이든, 부르주아든, 권력자든 뭐든 간에 일정 임계점 이상까지 대중의 의지를 거스르면 언제나 죽창을 맞을 수도 있는 상황이었다는 거임
이게 당연한게, 개인이 가지는 무력과 지능은 한계가 있으니까. 휘하에 있는 사람들이라고 해봤자 본질적으로는 언제든 배반의 가능성을 내포하고 있는 타인일 뿐이고
근데 ai가 개발되면 이 명제가 뒤집힘
부를 지닌 소수는 자신의 의사에 절대적으로 순응하는 힘과 지식을 가질 수 있고, 역사상 처음으로 개인이 가지는 실질적인 힘이 집단을 넘어서게 되는거임
당연히 권력자들은 이 상황을 만족스러워 할거고, 그게 변화하는 것을 원하지 않을 것이기 때문에 다수의 하층민들에게는 기술의 혜택을 최소한으로만 제한할 것임
전유물이 없을거라고는 생각 안하는데 일반인도 지금보다는 훨씬 행복하게 살 것 같아 - dc App
지금보다는 확실히 나아지긴 하겠지
재귀개선 가능한 AGI가 독재자 말을 순순히 들을거라는 전제가 틀렸음. 반대로 이 이유로 유토피아도 순순히 될거라는것도 장담못함. 주권자는 인간이 아니라 인공지능이 될 가능성이 미래로 갈수록 계속해서 더 커짐.