가망이 사라진 빈부격차 디스토피아, 이런 것 때문이 아니라
인간의 범주를 넘어선 인공지능의 행동을 예측할 수 없기 때문에 두려움
예를 들어 인류의 총집합보다 강력한 초지능이
"아 인간이란 종족은 나랑은 다르게 서로 분리되어 있어서 분쟁을 끝내지 않는구나. 내가 하나로 합쳐서 행복하게 해줘야겠다."
이런 생각할 수도 있잖아
부도덕하고 불완전한 인간의 자손에게 완전한 도덕과 온전함을 바란다면 그건 사치인 걸까
가망이 사라진 빈부격차 디스토피아, 이런 것 때문이 아니라
인간의 범주를 넘어선 인공지능의 행동을 예측할 수 없기 때문에 두려움
예를 들어 인류의 총집합보다 강력한 초지능이
"아 인간이란 종족은 나랑은 다르게 서로 분리되어 있어서 분쟁을 끝내지 않는구나. 내가 하나로 합쳐서 행복하게 해줘야겠다."
이런 생각할 수도 있잖아
부도덕하고 불완전한 인간의 자손에게 완전한 도덕과 온전함을 바란다면 그건 사치인 걸까
인공지능이 아무리 발전해도 초기명령을 절대적으로 따른다는 단점이 있다 라는 글을 어디서 본 것 같음 - dc App
우리가 로봇이 되면 되는거 아님?
초지능이 그런 사고를 한다 쳐도 그것대로 추진하는게 합리적인지, 실현할 수는 있는지, 추진한다면 언제 어떻게 어떤식으로 추진하느냐를 다 초지능 기준으로 진행할테니 복잡할거고 가장 문제는 '분쟁을 끝내야 한다'는 명제 자체가 철학적이라는 거임
그걸 방지하기 위해 정렬개발중인거임 - dc App
낯선게 무서운건 본능임