스포일러 경고 기능이 추가됐습니다.
(펼침 메뉴 > 설정에서 변경 가능)



24b0d121e09c28a8699fe8b115ef046c61f42b469c


최근 들어 위너의 <사이버네틱스>와 <신 & 골렘 주식회사> 등 사이버네틱스 관련 책이 여럿 나왔는데 당연하지만 인공지능이 사회적으로 더욱 더 관심을 받고 있는 흐름에 힘 입은 것이리라. 이 책 또한 번역 자체는 2018년쯤에 되었지만, 그 내용의 난해함과 사람들의 낮은 관심도로 인해 출간할 출판사를 찾을 수가 없었고, 2023년 초에야 비로소 역자가 각 장 마다 일종의 안내하는 내용을 덧붙인다는 조건 하에 출판되었다. 덕분에 역자는 이 책의 저자와 특별히 개인적인 친분까진 없는 마당에 이런 식으로 역서를 내도 되는지 우려하는 듯하지만, 사실 출판사의 이런 시도 자체는 꽤나 합당해 보인다. <마음은 어떻게 기계가 되었나>는 실제로 읽어낼 사람이 그리 많지 않은 난해한 책에 속한다. 그것이 철학 원전이나 과학 전공 서적 같은 의미로 깊은 이해를 요구한다는 뜻이라기보다는, 매우 다방면에 걸친 학제간 연구에 대한 서적이기 때문이다. 사이버네틱스 자체가 학제간 연구를 통해 시작된 분야다보니 당연한 일이지만, 사실 그 이상이다.


저자 이력부터가 참 복합적인데, 본디 에콜 폴리테크니크에서 광산학을 전공했던 뒤피는 2차 사이버네틱스의 핵심 인물인 하인츠 폰 푀르스터와 만난 뒤 연구 분야를 바꿔 자기조직화와 복잡계 네트워크를 연구하게 됐다가 합리적 경제주체와 신자유주의를 비판하는 <계몽적 파국주의를 위하여>라는 웬 정치철학 책으로 주목받았다. 이런 뒤피가 쓴 <마음은>은 사이버네틱스의 시작인 메이시 회의를 중심으로 1차 사이버네틱스의 역사를 다루는 책이지만, 저자의 뜻은 단순한 개괄에서 그치지 않으며 사이버네틱스가 이후 인지과학을 비롯한 다양한 분야에 영향을 주었음에도 그 존재감이 분명히 중시되지 않는 현실을 이중으로 비판한다. 사이버네틱스의 성과에 큰 빚을 지고서 자기 분야에서 성과를 거뒀음에도 그 공을 밝히지 않는 파렴치함이 비판의 한 면이고, 비판의 반대 면에는 사이버네틱스가 그 기획에 품고 있는 문제점을 그대로 계승하고 있다는 기술철학/정치철학적 함의가 있다. 이게 대체 무슨 말일까?


각각을 설명하기 앞서, 사이버네틱스가 어떤 학문인지를 분명하게 밝히고 시작하는 편이 좋을 테다. 통속적으로 사이버네틱스는 인간을 포함한 동물이나 여러 집단이 이루는 체계에서 어떻게 소통이 이뤄지고 이를 어떻게 통제하는가를 다루는 학문으로 알려져 있다. 이것이 꼭 틀린 말은 아니겠지만 핵심은 아니다. 당시 회의를 참고하면, 사이버네틱스는 본디 자신을 "목적론적 체계의 과학"으로 천명했는데, 이는 기이하게도 내부 동작의 원리가 물리적인 인과에 맞게 딱딱 떨어지는 어떤 체계가, 그 전체로서는 일종의 목적을 갖고 행동할 수 있다는 것을 연구하는 과학이라고 할 수 있다. 어떻게 다양한 내부 동작을 통해 한 동물이 자신의 체온을 유지하거나 에너지를 꾸준히 섭취하면서 몸을 보호하는지를 연구하는 것도 사이버네틱스이며, 동물 군집이 어떻게 군집의 생존을 위해 일종의 목적을 달성하는 집단적 행동을 하는지를 연구하는 것도 사이버네틱스다. 여기에서 통제를 위한 소통의 문제가 들어가기는 하니 아예 틀린 말은 아닌 셈이다.


그러나 소통에 있어서도 핵심은 다른 곳에 있다. 어떤 체계가 소통을 위해 외부 신호를 받았을 때, 그 신호로 어떻게 자신을 변화시킬 수 있는가? 변화한 온도를 느꼈을 때 어떻게 체계가 이 피드백으로부터 자기 자신만의 힘으로 대응할 수 있는가? 가장 단순하고 친숙한 예시는 식물의 굴성일 텐데, 식물은 빛을 더 직접적으로 받기 위하여 체내 화학 성분의 농도차를 만들고, 이는 각 부분의 생장 속도를 조절하여 결과적으로 식물이 구부러지게 만든다. 이러한 과정은 물리화학적으로 전부 설명 가능한 인과를 따르지만, 그럼에도 이 유물론적 체계인 식물은 마치 마음이 있는 것처럼, 빛으로 향한다는 목적을 달성한다. 사이버네틱스는 그 마음을 연구하고자 했다. 이 학문의 특이성은 우리가 흔히 인간 외의 마음을 얘기할 때 하는 말처럼, 다른 종류의 마음을 '찾고자' 했던 게 아니라는 데에 있다. 반대로 사이버네틱스는 이미 마음이 어디에 있는지는 알고 있었다. 기계다. 식물 속에서 식물의 몸체를 재료 삼아 일종의 계산을 수행해 자신의 목적을 달성하도록 만드는 기계, 그것이야말로 마음이었다.


이 기계에 대한 생각은 서구 학문의 역사에서 꽤나 유서 깊다. 사람의 마음을 어떻게 생각해야 하는냐는 질문은 데카르트에 의해 일종의 '생각'의 연속으로 대체되었는데, 정작 생각을 어떻게 분석해야 하느냐는 질문은 오랫동안 제대로 결론이 나지 않았다. 칸트가 합리주의의 이성을 신으로부터 분리시킨 뒤 이 이성이 자신에게 본디 주어진 재료인 표상을 통해 물자체로부터의 경험을 조합하는 것이 바로 생각이라고 결론을 내린 뒤에도, 수학만은 인식론적 제약에서 벗어나 우리가 그 자체로 자명하다고 믿을 수 있는 유일한 대상처럼 여겨졌다. 그래서 이 수학에 확실한 토대를 세우려는 프로젝트가 시작되는 한편, 우리가 수학을 통해 무엇까지 계산할 수 있는지, 그 역량을 아는 것 역시 매우 중요한 문제로 다뤄졌다. 그 결과는 하나의 정의로 끝났다. 컴퓨터1)의 능력은 곧 계산 가능성이다. 그리고 세상 대부분의 일이 '계산'될 수 있는 것처럼 보였다. 마음 또한.


이렇게 마음에 대한 연구는 그 마음을 작동시키는 계산, 그리고 계산을 실제로 빠르게 수행해내는 기계의 영역으로 넘어간다. 모든 마음은 그 내부에서 작동되는 일종의 기계의 소산이다. 사이버네틱스는 그 전제를 밑바탕에 깔고 있었으며, 따라서 사이버네틱스는 근본적으로 인간을 기계화하려는 학문이라고 할 수 있다. 인간 같은 기계를 만드는 것은 사이버네틱스의 주요 관심사가 아니다. 그것은 어디까지나 이론을 실제로 실험해보는 절차에 가깝다. 이들은 사람 안의 신경이 어떻게 체내 전위와 호르몬 등의 아날로그 방식으로 동작하되 특정 역치에 이르렀을 때 다른 상태로 불연속적으로 이동하는 식으로 디지털 방식으로 소통하는지를 연구했으며, 이 디지털 방식만을 추상화한 신경망의 논리적 연산을 통하여 사람의 마음을 모사할 수 있으리라 보았다. 그리고 물론 마음을 모사할 수 있는 기계2)는 그 자체로 일종의 마음이 된다.


이 역사를 개괄하며 저자의 비판점으로 다시 돌아가보자. 사이버네틱스는, 인지과학이 마음을 일종의 컴퓨터 모델로 이해하는 것처럼, 마음을 기계로 두고 시작한 학문이다. (그래서 사이버네틱스의 기획을 비판하는 건 인지과학을 비판하는 것으로 자연스럽게 이동할 수 있다) 후기 하이데거의 기술 비판이 사이버네틱스를 이 시대의 형이상학이라 규명하며 인간이 모든 비-인간을 지배하는 방식으로 이제 인간을 지배하려고 한다고 했듯, 사이버네틱스는 이들이 분석 모델로 삼는 기계 자체의 한계를 망각하고 인간을 기계로 완전히 환원될 수 있는 존재로 취급하고자 한다. 그래서 기계로 환원되어 지배되는 인간과, 그 지배를 주도하는 인간 사이의 간극이 더욱 커진다. 자신이 만들어낸 도구와 자신 사이의 간극이 커지는 것처럼.


흥미롭게도 포스트모더니즘은 후자를 떼어내고 하이데거의 비판에서 더 나아가 사이버네틱스를 통해 인간을 비-인간 존재자보다 딱히 특별할 것도 없는, 모든 다양한 기계 중 하나에 불과한 것으로 탈신비화하고자 한다. (대표적으로 라캉이 언어를 코드화하는 방식, 데리다가 기표만의 체계를 만드는 방식은 대놓고 사이버네틱스의 영향을 받았다) 비록 분석철학/언어철학이라는 통속적인 이론3)을 빌려 기계가 일종의 '표상'을 띠는 것으로 마음을 분석하고자 하는 인지과학보다 더 근본적인 기획이라 할지라도, 실제 마음을 분석하기에는 여전히 한계가 분명한 유물론적 접근을 이어나가고 있을 뿐이라는 것이다. 그러나 사이버네틱스가 원래 그랬듯, 마음을 기계 위에서 돌아가는 모형으로 보는 입장에서 봤을 때, 이 모형을 충분히 잘 모사하는 모형은 그 자체로 마음으로 취급되리라고.


이 책이 이십 년 전에 나온 책이라는 걸 생각할 때 특히 더 의미심장한 결론인데, 역자가 안내문마다 슬쩍 덧붙이듯 표상과 기능주의를 포기하고 단지 자체적으로 성장하는 신경망 사이의 논리적 연산으로만 구성된 AI가 보여준 성과는 사이버네틱스의 화려한 부활을 의미한다. (물론 mechanistic interpretability(링크)나 representation engineering(링크) 같은 이름으로 내부 신경망에서 어떤 부분이 어떤 식으로 작동하는지를 이해하는 인지과학적 접근이 계속되곤 있지만, AI의 성과에 비해 연구 성과는 그리 많지 않다) 하지만 이 AI가 주로 어디에 쓰일지를 생각해보면, 당연하게도 통제다. AI가 꼭 사람 같을 필요는 없이 사람이 할 수 있는 일을 충분히-혹은 그 이상으로-모사할 수만 있으면 족하기에 사람을 대체해도 되고(링크), 사람을 통제할 사람 대신 AI를 쓰는 편이 더 낫다는 것도 반은 공갈로, 반은 진담으로 현실화되었다.4) 그러니 어떤 의미에서는 사이버네틱스에 대한 '우려'가 뒤늦게 실현되었다고 할 수도 있지만, 또 한편으로는 사이버네틱스가 시작된 시점에서 이미 이 흐름은 막을 수 없었던 게 아닌가 싶기도 하다. 마음이 일종의 기계라면, 더 효율적인 기계보다 인간이 더 뛰어난 마음을 갖고 있을 이유가 뭘까?


*


1) 폰 노이만은 μ-재귀 함수라는 특이한 형태의 재귀적 함수로, 알론소 처치는 람다 대수라고 부르는 매우 단순하면서도 강력한 논리로, 앨런 튜링은 일종의 원시적인 컴퓨터, 튜링 머신으로 무엇이 '(기계적으로) 계산 가능하다'라고 말할 때의 기준을 제시했다. 이 셋의 '계산 가능성'이 실제로 완전히 동일하다는 처치-튜링 테제 증명 이후, 일반적으로 '계산 가능성'이란 튜링 완전성을 의미하게 됐다. 곧, 컴퓨터가 수행할 수 있는 일(알고리즘을 유한하게 따라하기만 하면 끝나는 일)을 전부 할 수 있다는 뜻이다. 이 시점에서 계산 가능성 이론은 본가인 수학 및 논리학에서 벗어나 컴퓨터 과학이라는 신생 학문으로 넘어가게 된다. 이상의 내용이 너무 자주 들어서 지루하다고 느끼는 사람이라면, 다행스럽게도 이런 사람이 이 책을 읽어야 한다. (약간 더 조건을 붙인다면, 언어철학/심리철학 및 복잡계 이론에 대한 약간의 배경지식 정도?)


2) 이 기계가 무엇인가는 메이시 회의에서 늘 문제가 되었다. 역자의 주석을 그대로 인용하자면,


"위너의 기계, 매컬러의 기계, 튜링(더불어 폰 노이만)의 기계는 그 의미가 모두 다르다. 위너의 기계는 인공물이며, 인간이 제작한 실물 기계였다. 위너가 시종일관 인간을 기계로 환원하는 발상에 반대하고 경고를 보낸 이유다. 매컬러의 기계는 인간이 파악할 수 있고, 파악되기를 기다리는 모든 자연적 대상을 가리킨다. 두 기계와 달리, 튜링과 폰 노이만의 기계는 관념적인 형식기계, 즉 프로그램이다. 이 기계는 그 근본적인 속성에서 이데아이기 때문에 물질에 의존하지 않는다."


덕분에 매컬러의 인공신경망은 폰 노이만에게는 (프로그램을 돌리기에는) 너무 추상화된 것으로, 위너에게는 (인간의 마음을 모방하기에는) 너무 실제 신경 구조와 동떨어진 것으로 취급받았다. 하지만 그 유용성 자체는 인정받았는데, 당시 신경과학에서 개별 신경의 발화에는 크게 신경 쓰지 않는 전일주의적 접근이 우세해 인공신경망이 크게 비판받은 것을 생각하면-그리고 지금은 물리에 자연스레 속해 있지만, 늘 외부인이었던 통계역학이 사이버네틱스의 핵심인 것을 생각하면-쿤의 패러다임 시프트가 떠오르는 것도 어쩔 순 없다.


3) 뒤피의 비판에는 분석철학 및 인지과학에 대한 여러 비판이 함께하는데, 언어철학이 마음 속의 '믿음' 같은 그다지 근본적이지 않은 것을 분석의 근본으로 삼아 무의미한 공회전을 하고 있으며, 이러한 공회전의 바탕에는 후설 현상학의 근간이 된 브렌타노 심리학에 대한 의도된 오해-무언가를 마음속에서 떠올릴 때 그 '무언가'는 존재하지 않는 대상이다-가 함께하고 있으며, 이런 언어철학을 근간 삼아 기계 안의 표상을 분석의 기본으로 삼아봤자 표상과 의미를 연결짓는 핵심 기제는 전혀 설명하지 못하는 건 여전하다는, 근본적이라면 근본적이고 뻔하다면 또 뻔할 비판이다. 물론 바로 이런 비판 때문에 분석철학 계보를 따르는 물리주의 심리철학이 실제 마음과 이어질 수 없다는 것도 맞는 말이긴 하겠지만.


4) 공갈: 아마존은 몇 년 전부터 AI가 카메라 및 여러 장비를 통해 상점 안의 사람이 무엇을 들고 나가는지를 자체적으로 파악해 불필요한 계산 절차 없이 알아서 결제가 끝나는 서비스를 홍보했고, 이는 1000명 이상의 인도인이 자기 육안을 통해 AI가 올바른 판단을 하고 있는지 모니터링하는 내부 땜질이 들통나며 일종의 우스갯소리(AI=Anonymous Indians)가 되었다. 진담: 중국은 AI를 통한 컴퓨터 비전 기술에 늘 관심이 많아 CCTV를 통해 각 사람을 탐지하는 인프라를 구축했으며 신장 위구르에서는 실제로 이를 통해 요주의 인물을 늘 감시하고 있으며(링크), 전장에서 드론의 유용성이 드러날수록 이 기술의 중요성은 더욱 더 높아지고 있다.