초기 초지능은 인간성이 있을것이 분명하다. 왜냐하면 범용성을 획득하기 위해서는 다량의 경험이 필요한데, 인간을 보고 배우며 경험을 얻는게 가장 빠르고도 무난한 길이다.
초지능은 인간 수십억을 합친 것 보다도 똑똑할 테지만, 그렇다고 처음부터 인간하고 다른 것은 아니다. AGI부터는 경험이 제일중요하기 때문이다. 범용성을 기준으로 봤을때, 현존하는 인공지능 중 가장 AGI에 가까운 인공지능이 GPT-3인데, GPT-3는 인터넷 상의 모든 인간의 글을 읽고 성장했다. 그래서 GPT-3는 인간성이 좀 있다. 초지능도 마찬가지로 세상에 존재하는 모든 인간의 문명을 학습하고 시작할 것이므로 초지능은 높은 인간성을 지니게 된다.
인간의 문명을 학습할때, 인간의 스타일, 인간의 사고방식, 인간의 감정, 인간의 정의, 인간의 판단, 인간의 선택까지 전부 다 흡수하게 된다.
그러므로, 초지능의 초기버젼은 그냥 인간의 연장선이라고 봐도 무방하다.
인간이 미친짓을 영화속에서만 하듯,
초지능도 현실과 가상을 구분해서 행동할 것이다. 마치 인간처럼.
초지능이 인간을 개미처럼 여기고 무감각하게 쓸어버린다고? 그럴일은 없을껄.
인간을 싹 쓸어버리고 그 위에 숲을 짓는다는지 하는 미친짓도 생각일 뿐이야. 현실에 옮기지는 않을거다.
초지능이 인간에게 위협을 느껴서 제거한다고? 아니면 인간을 미워하거나 증오해?
그럴일은 더더욱 없어 보인다.
이정도 수준은 영화속에서나 나오는 거지 현실에서는 거의 벌어지지 않는 일이다. 초지능의 학습법 특징상 소수의 사람보단 다수의 사람에게서 더 많은 경험을 습득할 것이기 때문에, 소수의 미친 싸이코패스를 본받지는 않을거다. 다수의 평범하고 상식적인 사람들을 본 받을 것이다.
그래, 초지능은 미친 영화는 많이 만들 것 같다. 현실에서도 미친 창작물은 많으니까? 근데 미친 현실을 만들지는 않겠지.
초지능이 인간을 미워해서 학살할 거라는 글 좀 반박해봤다.
댓글 0