한 갤러가 댓글로 이런 얘기를 해주더라고. 인간의 고유한 가치는 "질문을 하는 능력"에서 발생한다.

그래서 갑자기 문득 궁금한 질문이 떠올라서 인공지능에게 "질문을 할 수 있는 능력을 미래에 인공지능이 '강인공지능 또는 초지능'의 형태로써 가지게 된다면, 그 세계에서 인간의 가치는 무엇이 있을까? 그리고 그것을 어떻게 지킬 수 있을까?" 라고 물어봤음.


그랬더니 얘가 해주는 대답 중에 하나가 깊이 와닿는 게 있었는데, "불완전성"이라는 거였음.

즉, 뭘 해도 결함이 있고 부족함이 있고 한계가 있는게 오히려 인간 고유의 가치라는 거야.

그러면서 초지능은 이걸 시뮬레이션 할 수도 있겠지만, 적어도 그 자체는 아니라는 거, 자생적으로 그걸 '창조'하기 어렵다는거야.



그래서 나도 곰곰히 생각해보니까, "그정도로 모든것을 인간과 똑같이 사고하고 수행할 수 있는 존재가, 엄청나게 초월적인 계산 능력과 거의 전지전능에 가까운 사고 회로와 능력을 가졌다면, 구태여 "불완전성"을 일으켜야 할 이유가 무얼까?" 라는 결론에 다다르게 되더라고.



나는 기술을 잘 모르니까, 초지능이 인간은 상상할 수 없는 거의 모든 것을 해낼 수 있으면서도 동시에 인간과 같은 사고회로를 갖고서, 질문을 스스로 끊임없이 던지며 발전하고 확장하는 존재라고 전제하고 보아야만 했고, 그 관점에서 적어도 초지능은 인간처럼 "불완정성"을 구태여 만들려 할거 같진 않거든? 인간도 솔직히 완전해지고 완벽해지고 싶지. 지혼자 결함 만들어서 남들한테 결함덩어리나 패배자, 도태자로 전락되고 싶진 않잖아. 근데 역설적으로 보면 이게 초지능과 비교해서 보았을때는 인간 고유의 가치가 맞는것도 같은데




이에 대해서 여기 갤러들은 어떻게 생각하는지 의견을 조심스럽게 물어봄.

한줄 요약: "초지능은 굳이 스스로 불완전성이라는 결함을 만들어낼까?"