스포일러 경고 기능이 추가됐습니다.
(펼침 메뉴 > 설정에서 변경 가능)


24b0d121e09c28a8699fe8b115ef046ecf41c9f527


원제 <인공지능의 정치철학The Political Philosophy of AI>에 비해 약간 도발적인 제목이다. 다만 꼭 과하다 싶지는 않은데, 어쨌든 이 책의 주제는 인공지능을 우리가 일반적으로 생각하는 것처럼 탈인간적인 무언가가 아니라 인간들과의 강력한 상호작용 속에 있는 정치철학적 객체 혹은 주체로서 바라보도록 하는 데에 있기 때문이다. 우리가 어떤 공정하지 않은 듯한 판단이나 사건을 봤을 때 이를 피하기 위해 인공지능을 적극 도입해야 한다고 말하는 순간을 생각해보면 편하다. 그리고 애석하게도 이렇게 대두되는 인공지능이 딱히 그런 점에서 해결책이 될 수는 없을 것이 분명하다는 점을 함께 생각해볼만하다.



인공지능에 대한 정치철학적 접근은 크게 자유, 평등, 민주주의, 권력, 그리고 환경의 다섯 가지 부류로 소개된다. 그럼에도 이 모든 접근은 크게 두 주장으로 정리할 수 있는데, 하나는 인공지능이 우리를 어떤 식으로든 다른 어떤 물체보다도 강력하게 유인하고 통제하며, 또 하나는 그러한 인공지능의 결정과 통치가 결국 인간에 의한 결정과 통치를 매개하고 있을 뿐이라는 점이다. 이는 곧 동일한 질문을 낳는다: 그렇다면 그 유인과 통제, 결정과 통치의 주체는 누구인가? 애석하게도 인터넷처럼 엄밀한 의미에서 주인이 없는 매체와는 달리, 인공지능은 늘 학습과 사용 주체가 존재하는 편이다. 그러니 그 숨은 주체를 딱히 멀리서 찾을 필요도 없다.



인터넷에 대한 예시로 먼저 시작하자면, 이제는 꽤나 유명해진 마트의 구매 유인 정책처럼 웹사이트 역시 그런 넛지를 유도한다. 어떤 팝업창이 어떤 위치에 얼마나 오래 뜨느냐라든가, 클릭에 대한 반응성이라든가, 어떤 항목을 불법적이지 않은 한에서 숨겨놓는다든가 하는 논의는 대체로 우리의 욕구를 불러일으키거나 잠재우도록 유도하며, 그 영향력은 실제로 이를 통해 효과를 본 기업들이 이 기법들을 유지하고 강화하는 데에서 확인할 수 있다. 이러한 넛지 기법들은 사실 사람마다 주로 효과를 보는 분야가 다르기도 하고, 누군가에게는 잘 먹히는 것이 어떤 이에게는 오히려 반감을 불러 일으킬 수도 있다. 그렇다고 사람마다 개별적인 대응을 할 수도 없는 노릇이지만, 인공지능이 바로 이 부분에서 훌륭하게 개입한다. 이 효능은 당신이 휴대폰으로 틱톡이나 유튜브를 보는 시간에 따라 체감될 수도, 안 될 수도 있을 테다.



물론, 우리의 기본 교육은 우리를 기존 역사 속 인간과는 전혀 다른 인간으로 창조하고, 상품이 아니더라도 그 어떤 예술도 우리의 필요에 의해서 만들어졌다기보다는 우리의 필요를 창출해냄으로서 생겨난다. 결국 이런 실용적 차원에서의 논의는 0 혹은 1보다는 정도의 문제고, 1보다는 애초에 이것이 고려되기는 하느냐의 문제기도 하다. 특히 이런 인공지능의 개입이 우리에게 정말로 납득 가능한 정도의 영향력을 발휘하느냐, 라는 질문에 대해서는 미지수다. SNS의 대두 이후 SNS의 사용은 우리에게 강력한 우울감을 안겨준다는 연구 결과들이 종종 나오곤 하는데, 사실 이것이 정말로 소셜 미디어라는 것 자체의 문제가 아니라 그 소셜 미디어에서 무엇을 우리에게 보여주려고 하느냐의 문제일지도 모른다는 점을 생각해볼 수 있다. (틱톡의 Bold Glamour 필터 등의 외모 성형 필터에 대한 논쟁을 참고해 볼만하다.)



그렇다고 인공지능이 근본적으로 악한 목적으로 학습된다거나, 편향적인 의도를 가지고 있다는 주장에 빠져서는 안 된다. 반대로 인공지능은 이를 학습하는 주체와 사용하는 주체, 둘에 의해 강력하게 영향을 받고 행동하는 일종의 준인격적 주체에 가깝다. 이는 곧 인공지능에게서 우리가 인간에게서 발견하는 것과 유사한 편향을 발견할 수도 있고, 이 주체에게 우리를 어느 정도로까지 맡길 수 있느냐는 질문에서 벗어날 수 없다는 것을 의미한다. <인공지능은>은 그런 점에서 서두를 매우 강렬한 일화로 시작한다. 2020년 윌리엄스가 AI에 의해 잘못 해석된 얼굴 인식으로 인해 오인 체포되고 그 오해가 한참 뒤에나 풀렸다는 이야기다. 다시 한 번, 이는 인공지능의 악함을 조명하는 예시로 설명되어서는 안 된다. 그저 인공지능에게 우리가 선사하는 권력이 과연 한 주체에게 허용될 만한 것인가를 생각해볼 예시일 뿐이다.



비슷한 경우로 기업 윤리를 생각해볼 만하다. 대부분의 기업은 솔직히 정부나 민간의 개입이 없다면 윤리를 애초에 신경 쓰지 않고, 자기들끼리의 치열한 경쟁을 위해서든 자본 축적을 위해서든 대부분의 규약을 별 가책 없이 어길 준비로 만만하다. 사실, 애초에 그 규약을 어기는 주체라는 것이 존재한다고 해야 할지가 의문이다. (물론 법적으로야 당연히 존재하겠지만.) 우리는 이 기업이 중립적이고 윤리적이라고 딱히 생각하지 않으며, 이들을 윤리적이고 책임 가득한 규약에 어느 정도 묶어두려고 하며, 한 기업이 우리를 사방에서 유도하도록 내버려두지는 않는다. 그렇다면 왜 기업이 인공지능을 통해서 그리 하도록 하려는 데에는 다른 이야기를 할까? 짐작은 된다. 인공지능이라는 이름에 붙은 환상성이 아직 상업성에 의해 완전히 빛바래지는 않은 탓이리라.



이 점에서 대런 바일러의 책 <신장 위구르 디스토피아>를 함께 읽어볼 만하다. 위구르 지역에서의 인권 탄압의 핵심은 누구나 알고 있는 중국 정부의 강압적인 정책이 아니다. 그러한 정책을 현실로 밀어붙일 수 있도록 하는 도구가 현실에 존재하고, 이 인프라를 세우고 강화하며 피드백을 주는 주체들이 미국과 중국, 두 나라에 있다는 점이다. 이는 우리가 노예 무역에서 각 지역의 상인들의 역할을 다소 간과하는 것처럼 우리 관심사의 사각지대에 있다. 하지만 사실 온갖 자원을 우리로부터 멀리 떨어진 곳에서 채취하며 노동 집약적인 산업을 융단 아래에 숨기는 데에 익숙한 현대 사회에서, 이 뛰어난 인공지능 기술 발전을 위해 우리 자신을 채취하는 게 더 큰 잘못이지는 않겠다 싶다. 그런 점에서는 오히려 인공지능 산업이야말로 양심의 대가를 충실히 치르는 산업이지 않을까?