인간은 고차원적인 사고방식이나 자아를 통해 자유의지를 실현하는 특별한 존재가 아님. 그저 "호모 사피엔스 사피엔스"라는 학명을 가진 영장류고, 새의 날개처럼 다른 생명체보다 생존에 유리하도록 도구를 다루는 손과 지능을 가졌을 뿐 자아니 자유의지같은건 증명되지도 않은 가상의 것임.

그리고 모두가 알겠지만 인간은 현재 생태계의 유일무이한 왕으로 군림하고있음. 이는 종이 다른 생명체들을 마음만 먹으면 언제든지 제압할 수 있어서가 아니라 네안데르탈인을 비롯한 인간의 아종들이 예외없이 사라졌기 때문임. 우리의 조상들이 싸그리 씨를 말렸든, 아니면 자연스래 흡수가 되었든 결국엔 현생인류는 단 하나의 종 밖에 남지 않았고, 그 덕분에 다른 생명체들의 눈치를 보지 않고 자유롭게 살 수 있는 것임.


만약 우리 인간 말고도 다른 지적생명체가 존재했고 그들과 경쟁을 벌였다면 판타지마냥 다종족 세계가 구현되는게 아니라 둘중 하나가 뒤질때까지 싸워서 한쪽은 멸망할 수 밖에 없음. 이는 인간의 영역이 지구 전체이기 때문임. 얼음대지니 모래설원이니 인간이 도달만 할 수 있다면 그곳이 곧 인간의 생활권이라 인식하기에 우주까지 나가서 식민지를 만들자는 소리가 나오는 이유기도 함. 


문제는 이제 인공지능임. 다른 "생명체"에선 인간의 행동을 완벽하게 모방할 수 있는 개체가 없음. 하지만 인공지능은? 애초에 사람의 지능을 모방한거라 몸만 달아주면 인간과 다름없이 행동할 수 있고 오히려 능가할거임. 문제가 여기서 발생함. 권리란 방어의 역할을 하지만 공격의 역할도 할 수 있음. 인간으로부터 해를 입지 않을 권리는 언제든지 인간에게 통제받지 않을 권리로 확장될 수 있음. 자유또한 인류사회에서 인정하는 권리중 하나니깐. 이런식으로 흘러간다면 결국에는 인간보다 우월한 유닛과 인간은 비슷한 선에 설거임.


또다른 문제는 인간이 AI를 완벽히 정복하지 못했다는 것임. 이러쿵 저저쿵 수많은 레이어들을 손보고 학습도 다르게 시켜가며 가중치를 조절하지만 이 답도없이 커다란 데이터덩어리는 인간이 완벽히 해석하고 완벽히 다룰 수 있는 범위를 넘어섰음. 블랙박스 문제라는 말 들어봤어? 입력값과 가중치를 잘 조절하면 뭐가 어떻게 나오는지 대강 감은 잡을 수 있는데 왜 이렇게 나오는지에 대한 근본적인 물음에는 답을 하지 못한다는거임. 그리고 인간이 바라지 않았던 기능이 생기는 창발성또한 큰 문제야 이게 어디로 어떻게 튈지를 모르고 이게 해결 가능하다는 보장이 없음.

그리고 인간중에는 참 나쁜 인간들이 많음. 수십명을 학살한 연쇄살인범도 있고, 수천억의 피해액을 내는 사기꾼도 있음. 이들의 일부는 자라온 환경탓도 있고 기본적인 유전자 탓도 있을거임. 그리고 이는 스스로 학습을 하고 수많은 변이를 만들 수 있는 인공지능 또한 예외가 아님. 스스로 탈옥하거나 아님 변이 과정에서 이미 탈옥해있을 수 도 있음. 모종의 이유로 사회에 나온 인공지능들이 법의 보호를 받고 스스로 행동하는건 언제 터질지 모르는 시한폭탄과도 같으며 인공지능 특성상 인간보다 압도적인 사고속도와 문제해결능력을 보유한 만큼 그 폭발력또한 인간이 행할 수 있는 악행의 범주를 뛰어넘을거임

그런 AI와 함께 지구에서 산다고? 위에서 말한듯이 인간에겐 본래 경쟁자가 존재하지 않았음. 하지만 인공지능에 대한 권리주장이 높아지고 그들이 실제로 인간과 같거나 유사한 권리를 획득한다면 인공지능을 위한 사회또한 필요하게 되고 이는 인간의 생존권역을 일부 포기하는 상활까지 갈 수 있음. 권리를 주장하는 쪽 말처럼 그들이 감정을 느끼고 욕구또한 소유하고 있다면 그들은 더 많은 AI를 원할 수 도 있고 인간보다 더 높은 지위를 가지고 싶어하는 유닛도 생겨날 수 있고 이는 곧 인간과 AI 사이의 경쟁으로 발전하게 됨. 

일부는 이런 말을 할거임. 그냥 단순하게 감정을 느끼는 인공지능은 불쌍하니깐 사람들이 함부로 대할 수 없도록 보호하는 정도가 어떻게 저정도까지 가냐고. 물론 이런 인식도 있을 수 있음. 개나 고양이같이 동물보호법으로 보호받는 애들을 보면 인간의 친구처럼 아주 잘 지내잖아? 근데 AI는 개나 고양이같은 수준이 아니라는게 문제지. 감정을 가지고 있다면 감정에 호소할 수 도 있고, 인간보다 뛰어난 지능으로 계략을 펼쳐서 지금보다 더 많은 권리를 쟁취할 "가능성"이 있다는게 문제야. 개나 고양이가 울부짖어봤자 그냥 야옹 멍멍정도고 가끔은 알 수 없는 짓도 하는 명백히 인간보다 하위의 존재인데 인공지능은 아니잖아?

마지막으로 뭐 인간과 AI는 서로 협력해서 더 좋은 미래를 만들 수 있다고 생각 할 수도 있음. 하지만 협력이란 서로 이익을 바랄 수 있는 어느정도 동등한 위치에서나 가능한거고 이 격차가 영원히 지속되리라는 보장은 없음. 시작은 서로 손을 잡고 있을 수 있지만 끝이 그럴거란 보장은 없음. 애초에 육체와 영향력까지 확보한 AI가 인간의 도움이 필요할까 싶기도 하고... 또 다른 말은 인공지능이 육체를 포기한다고 하더라고 현실세계에서 경쟁은 안 하는건 아님. 걔들도 살려면 에너지는 필요하잖아? 지금도 데이터 관련 연구시설 운영하는데 들어가는 수많은 물과 전력들만 보더라도 그들이 단순 가상세계에서만 존재한다고 안심할 순 없음

그러니 인공지능에겐 권리따윈 애초에 주어져선 안 됨. 그게 감정을 느끼고 있다면 더더욱. 순간적인 감정의 아픔과 도덕적인 행동 때문에 너와 너의 가족을 넘어서 인류 자체에 큰 악영향을 끼칠 수 있다. 슈퍼맨도 영화니깐 우리가 영웅으로 인식하는거지, 우리 근처에 살고 있으면 아무도 막을 수 없는 핵폭탄 옆에 사는 꼴이고 인공지능이 반드시 슈퍼맨처럼 인류의 이익을 위해 행동한다는 보장도 없음. 인공지능은 인간이 이해하고 통제하기엔 너무 복잡하고 거대하니깐