스포일러 경고 기능이 추가됐습니다.
(펼침 메뉴 > 설정에서 변경 가능)

24b0d121e09c28a8699fe8b115ef046f59489d96ab


문제 생길시 자삭


*


특이점주의Singularitarianism는 현대 종교 중 하나에 분류될 수 있을 것이다. 또는 단순히 지적 열정이 가득한 이념이라고 할 수도 있을 테고, 기술 발전을 지금보다 훨씬 더 가속시켜 산재한 문제를 해결하거나 파국에 다다르게 해야 한다는 가속주의의 한 분파라고 할 수도 있을 테다. 이들의 존재는 해외에서나 국내에서나 그리 잘 알려져 있진 않다가1) 인공지능이 대중에게 널리 알려지고 접근성이 높아지며 점차 유의미한 세력으로 대두되었다. 그럼에도 알파고, GPT의 충격이 본격적으로 다가오기 전에 이미 사람들에게 이 개념을 널리 알린 책이 있는데, 바로 2005년에 나온 <특이점이 온다>다. 당시에도 베스트셀러에 올라 수많은 사람들의 관심을 받았던 이 책은 지금보다도 더 냉담한 비판을 듣곤 했으며, 개중 비중이 가장 높은 건 역시 책에서 예고하는 기술 발전의 양상이 너무 허무맹랑하다는 것이었다. 어느 수준에 이르면 기하급수적으로 기술이 발전하곤 한다는 수확 가속의 법칙이 단순한 외삽법이거나, 구체적인 분야에서의 정체를 너무 쉽사리 무시하고 있다며 말이다. (또 다른 비중 높은 비판은, 조금 있다가 다시 다루도록 하겠다)


그래서 2025년 4월 기준으로 이 책을 읽어보자면, 당시의 비판보다는 훨씬 통찰력 있었다는 건 부정하기 힘들 듯하다. 커즈와일은 본인의 공학 경력 과정에서 느낀 감각과 실제 기술 발전 동향에 대한 통계, 점차 사이버네틱스 및 정보과학으로 옮겨지는 무게추를 토대로 기술 변화라는 것이 본디 어떤 방식으로 나아가며 세상을 어떻게 바꿨고, 이것이 대체로 피할 수 없는 흐름이었다는 것을 대략적으로 논증한다. 닷컴 버블이 터진지 몇 년 되지 않아 2004년, 지금 인공지능 트렌드의 핵심에 서 있는 최초의 기업 구글2)이 화려하게 상장하며 인터넷 시대의 본격적인 시작을 알렸고, 지금은 인터넷 없는 세상이라는 것을 제3세계에서조차 상상하기 어려울 정도다. 많은 기술이 조용히 성장하고 있는 시대였고, 수많은 공상과 과대평가 속에서 사람들이 상상했던 방향과는 전혀 다른 식으로 기술이 뻗어나가며 우리의 현실이 예전과는 비교할 수도 없을 정도로 변형되었다. 사람들은 현실 속에서 인터넷과 연결되어 있게 될 거라고 했을 때 많은 이들이 허무맹랑하다고 비웃었고, 실제로도 당시 논하던 방식은 지금도 허무맹랑하다고 비웃음을 사지만, 스마트폰과 쏟아지는 푸쉬 알림은 우리를 분명히 인터넷과 유착시켰다.


다만 바로 그 점이 <특이점이 온다>가 빛이 바래는 지점이기도 하다. <특이점이 온다>의 핵심은 우리를 포함한 생명이 정보를 고도화하며 그 연산으로 득을 보기 때문에 연산량을 극대화하는 흐름을 피할 수 없으리라는 것이었고, 무어의 법칙을 벤치마킹해 세계의 '혁신'과 '연산량'을 통계로 만들어 연산량이 앞으로는 또 얼마나 솟구칠지를 열정적으로 논했다. 정보과학의 관점에서 봤을 때, 사람은 다른 동식물보다 정보 처리에서 훨씬 유능한 능력을 갖췄다는 점에서 우월하지만, 이 정보 처리 능력이 뇌에서 모듈로 분리되어 각기 처리되어 통합되는 과정을 잘 분석해 모방 및 개량함으로서 더 많은 연산을 하는 기계를 만들 수 있을 것이고, 실제로 그 분석 결과가 효능을 보고 있으니 연산량이 늘어나면 늘어날수록 사람의 역량을 압도하는 역량을 선보이리라는 것이다. 그건 어느 정도 사실이지만, 어떤 방식으로? 커즈와일은 GNR 혁명, 곧 유전·나노·로봇 새 분야에서의 혁명을 예고했다. 각 분야에서의 혁명은 점진적으로 사람을 기존과는 다른 형태로, 스마트폰이 그랬던 것처럼 유용하면서도 이질적으로 바꿔놓을 것이고, 결국 우리는 여전히 인간이되 인간이 아닌 존재로 진화할 것이며, 그 방법은 특이점에 도달한 기술이 제공하리라는 것이다. (다행히 커즈와일이 제안한 특이점은 2025년보다는 더 뒤니 이 점에서는 아직 망신살은 치르지 않았다)


그래서 이 세 분야가 정말로 뛰어난 연산량과 더불어 발전했는가? 그건 참 애매한 주장이다. 연산량 같은 대규모 통계를 예측하는 것이 세부 사항을 예측하는 것보다 훨씬 쉽다는 방증일지도 모르겠지만, 한번 따져보도록 하자. 미리 밝히지만 이는 기술이 전혀 발전하지 않았다거나 정체되어 있다는 말이 아니다. <특이점이 온다>에서 열광적으로 제시한, 그리고 현재 인공지능의 부상에 맞먹지는 않더라도 최소한 기죽지는 않을 만한 성과가 있었는지를 따져보자는 뜻이다. 미리 요약하자면, 정보과학에 치중한 한계가 엿보이는 듯하다. 정보에 특화된 분야일수록 월등히 발전했고, 커즈와일은 하찮다는 듯 충분히 이룰 수 있을 것이라고 언급하곤 했던 기반 기술이 전혀 통하지 않을 때가 많았다. 


유전 기술은 분명히 발전했다. 그러나 조심스럽게 평하면, 그 정도는 아니다. 게놈 분석 및 유전자 조작에 있어 2025년은 2005년과 비교해 뚜렷한 진보를 이뤘다. 지금도 약식으로나마 개인이 유전자 검사로 자신이 어떤 요소에 취약한지를 확인할 수 있으며, 유전자 가위인 크리스퍼CRISPR를 사용해 겸상적혈구병을 치료하는 약이 나오는 등 공상과학 속 소재가 여럿 현실로 등장했으니 말이다. 특히 바이러스 mRNA를 분석해 백신을 만드는 기술이-코로나라는 분명한 장벽 탓이겠지만-실현되었고, 내가 잘 알 수는 없지만 학계에서는 어느 정도 검증받은 최첨단 연구가 훨씬 쌓여 있으리라 믿는다. 특히 인공지능 발전은 확실히 유전 기술 분야에서 도움이 되었는데 mRNA 분석을 비롯해 단백질 합성에 있어서 무작위적으로 조합을 시도하며 무엇이 유용한지를 빠르게 파악하는 데에 있어서 인공지능보다 더 뛰어난 방식은 없다시피 하다.3) 허나 이 뛰어난 분석력에 비해 실제 조작에 있어서는 여전히 매우 떨어지는 것도 사실이다. 유전자 가위 기술은 아직 그 정도로까지 뛰어나진 않은 듯하며, 커즈와일이 꿈꾸던 '스스로의 DNA를 직접 개조하는' 포스트휴먼의 시대는 정말로 너무나 머나먼 듯하다.


이 실패는 나노 기술과 분명히 맞물려 있다. 지금은 약간 우스워질 정도가 되었지만, "나노봇"은 00년대까지 SF와 매체에서 뜨겁게 기대를 불러 모으던 기술이었다. 사람 몸에서 혈관을 따라 움직이며 질병을 고치고 몸을 개조하는가 하면, 바깥 환경에도 유포되어 쓰레기를 분해하고 건물을 조합하며 다양한 방식으로 물질을 변형시킬 예정이었다. 굳이 언급할 필요도 없지만 최소한 이 방향성으로는 벽에 부딪힌 게 분명하다. 나노 기술은 좀 더 온건하고 겸손한 방식으로, 목표로 지정한 수용체에 직접 작용하는 약을 만들거나 DNA를 기틀로 삼아 단백질을 손처럼 활용해 상호작용을 일으키는 물질을 조합해보는 등 다른 화학 연구와 비슷한 궤로 숨어 들어갔다. 연구 측면에서 이런 연구는 분명한 성과이지만, 최소한 커즈와일이 상상한 것처럼 유전 기술을 현실과 직접적으로 이어주는 데에 있어서 중간다리 역할을 하는 데에는 완전히 실패한 듯하다. 그나마 이산화탄소 포집 같은 분야에서 성과를 거둬 지구온난화를 막아낼 수만 있다면 참 좋겠지만, 그것도 어찌 될지 솔직히 큰 기대는 안 된다.4) 덕분에 나노 기술이 제공하는 증강현실은 더더욱 웃긴 이야기가 되었고, AR 기술에 투입되는 기술과 자본이 나름대로의 성과는 내고 있지만, 사람들이 이 거대한 보안경을 끼고 집에서라도 돌아다닐지는 의문이다. (나는 게임용으로는 쓰고 있다)


로봇 기술은, 말을 얹기가 애매하다. 커즈와일이 <특이점이 온다>에서 염두한 것은 분명 물질적 로봇보다는 그 로봇이 역량을 발휘할 수 있게 만드는 인공지능이었고, 그 점에 한해선 누구도 부정할 수 없는 수준이 되었으니까. 하지만 같은 결에서의 비판을 따라가보자. 지적 능력 및 정보과학 측면에서 인공지능이 발휘하는 뛰어난 역량에 비해 그 물질적 역량은 여전히 형편 없다. 산업용 로봇은 여전히 사람보다 훨씬 비싸고, 그나마도 매우 한정된 곳에서, 공장 기계에 가까운 수준으로 쓰인다. 인간형 로봇의 SOTA로 꼽히는 보스턴 다이내믹스는 사람처럼 행동할 수 있는 로봇을 매번 선보이고는 있지만, 다른 최첨단 기술과 달리 그 실용성이 너무나 떨어진다고 파악한 건지 여러 기업에서 이리저리 팔리다가 지금은 현대 그룹 산하가 된 상황이다. 높은 확률로, 뭔가 큰 투자를 받거나 사람들의 시선을 끌만한 발전이 나오지는 않지 않을까. 그나마 가망 있는 쪽은 자율주행인데, 한국에서도 강남 밤거리를 보면 자율주행으로 달리는 택시를-운이 좋다면-볼 수 있다. 여기에 들어간 기술은 컴퓨터 비전 같은 인공지능을 포함한 것이며 차량이 무언가 행동할 수 있는 방식이 그리 다양하지 않아 가능한 것이 아닐까 싶기는 하지만, 로봇 기술 발전 측면에서 나름 목소리를 높일 수 있는 분야긴 하다.


이상 GNR 혁명의 현주소를 살펴봤지만, 이건 그렇게 큰 문제는 아니다. 개인적으로 이 감상을 쓰면서 퍼플렉시티, 제미니 같은 인공지능을 자주 활용했고 그 과정 자체가 나쁘지 않았다. 현재 진행 중인 연구와 공상과학적 공상을 보며 현재 상황과 대조해보는 건 꽤나 즐거운 일이니까. (이런 걸 예전보다 압도적으로 편하게 할 수 있다는 점이 도서관에서 인터넷으로의 발전과 비슷하기도 하다) 하지만 이제 <특이점이 온다>에 대한 다른 비판으로 넘어가야 할 차례다. 과도하게 기술 낙관적이다. 이 낙관주의는 기술이 발전할 것이라는 주장에 대한 낙관이 아니다. 그 발전한 기술과 인간이 함께할 점이라는 것에 대해 낙관적이라는 뜻이다. 이를 분명하게 드러내려면 커즈와일과는 정반대편에서, 모든 기술을 철폐해야 한다고 믿는 또 다른 몽상가 카진스키의 비판을 참고할 필요가 있다. '인간보다 더 뛰어난 역량을 갖도록 설계되고 강화되는 기계의 발전 속에서 대체 어떻게 인간적인 속성이 기계적인 속성에 비교우위를 거둬 보존될 것이라고 믿는가? 이 전제 속에서 사람은, 사람이기 때문에 도태될 수 밖에 없고 살아남는 사람은 가장 사람 같지 않은 사람일 것이며, 변형된 사람은 사람에게서 멀어지고자 변형될 것이며, 이것은 불평등의 문제를 넘어 존재론적 문제, 인간이 다음 진보된 존재인 기계를 위해 자리를 비켜주는 결과를 낳을 것이다.'


비록 나는 특이점 같은 게 오지는 않으리라 예상하지만, 특이점이 온다는 전제를 붙였을 때에는 확실히 납득 가능한 귀결이다. 커즈와일은 <특이점이 온다>에서 이런 '다음 진보된 존재를 위해 자리를 비켜주는' 듯한 뉘앙스의 제사를 몇 번 붙였으며 실제로 이런 결과를 어느 정도 예상하고 있을지도 모른다. 그런데 신기하게도 책의 뉘앙스는, 늘 반복되는 미래인과의 대화가 그렇듯, 기술 유토피아다. 이 책이 특이점이라는 어떤 극단적인 개념을 소개하며 뻗어나가는 책만 아니었다면 그럴듯한 이야기지만, 최소한 그게 <특이점이 온다>는 아니었어야 하지 않을까. 이 문제에 대한 추측이 두 가지가 있는데, 하나는 정부 규제에 대한 우려다. 커즈와일이 책에서 제시하는 반박 중 정부 규제에 대한 우려는 다른 반박에 비해 유독 힘이 없고, 일단 대규모 흐름-당연하지만, 만들기 어렵다-을 만들고 나면 정부는 흐름을 막을 수 없다는 희망을 이야기할 뿐이다. <특이점이 온다> 자체가 이런 대규모 흐름을 만들어 사람들의 반대를 꺾고 싶은 책이다보니 의도적으로 공수표를 남발한 게 아닌가, 하는 생각이 들어 의도가 괘씸하다. 


이보다는 훨씬 선량한 의도로 추측하자면, 커즈와일의 꿈이 아닐까. 커즈와일의 영생에 대한 꿈은 늘 숨김 없이 드러나며, GNR 혁명은 사람을 지금보다 나은, 죽지 않는 존재로 바꾸는 걸 목표로 한다. 덕분에 '기술광의 몽정'에 가까운 낙관주의와 함께 특이점에 대한 계산이 서서히 무뎌지며, 변화하는 동향과는 꽤나 무관할지도 모를 세부 분야에서의 기술 예측-예측보다는 기대에 가까운-이 이어진 게 아닐까 싶은 생각. 첫 번째 추측과 합치면 약간은 괘씸하고 약간은 안쓰러운 느낌이 있다. 하지만 이건 인신공격에 가까운 이야기니 굳이 더 길게 말하지는 않겠다. 커즈와일이 꿈꾸고 제시한 미래의 청사진이 대신 그의 꿈을 뭉그러뜨리고 있는 듯하니까. 최근에 나온 <특이점이 가까워졌다>에서는 무슨 말을 하고 있을지가 살짝 궁금하기도 한데, 가능하면 빠른 시일 내에 정발되었으면 좋겠다. 최소한 그가 죽기 전에 남길 마지막 예측을 들어볼 순 있지 않을까. 우리가 이해할 수 없는 기계신을 꿈꾸며......



39afc623a5d537a220b5c6b236ef203e6adb7daf2648e0


1) 나는 어릴 적 AI 연구1원 엘리저 유드코프스키의 글에서 이를 처음 들었는데, 딱히 학술적인 글은 아니다. 팬픽을 아는 사람에게는 알음알음 알려져 있는 <해리포터와 합리적 사고의 구사법>이다. 지금 생각하면 이 소설이 대체 뭘 소개하고 있었는지 어이가 없는데, 읽은지 한참 되어 기억이 분명하지는 않지만 초장부터 아인 랜드의 <아틀라스>를 조심스럽게 읽어야 할 책으로나마 언급하고 있으니까. 유드코프스키가 학문적으로뿐 아니라 피터 틸이 미래 회의를 위한 회합에 전문가 중 하나로 초빙하는 등 정치적으로도 꽤나 유명해 악명 높은 사람으로 꼽히기도 한다는 사실을 알게 된 건 또 한참 뒤다. 


2) 새삼 많이들 잊고 있거나 LLM의 대규모 성공으로 가려져 있지만, 인공지능 서비스의 첫 대중적 성공은 구글 검색 시스템이다. 사용자가 입력한 자연어를 바탕으로 다양한 정보를 탐색하고 그 순위를 매겨 최대한 빠르고 정확하게 선보일 수 있도록 구글은 기계학습 기법을 연구했고 실제로 성과를 거뒀다. 트랜스포머 기술 연구에 구글이 크나큰 기여를 했고 지금도 하고 있는 게 이상한 일은 아니다. (사실, 오히려 대체 왜 여태까지 제미니의 성능이 그렇게 좋지 않았는지가 의심스러운 수준이다)


3) 약간의 푸념: 나는-반농담조로-두 번 AI에게 대체당했다. 단백질 합성 문제에 있어 민간인의 손을 빌려서 무작위적인 조합을 정밀하게 시도해보는 것이 가장 좋다는 판단 하에, 사람들이 참여해 직접 단백질을 조합해 높은 점수를 노리는 게임 FoldIt이 나왔고 실제로 몇몇 성과를 거두며 여러 풀기 힘든 단백질 변형 문제를 사람들의 손에 넘겨주었다. 어릴 적의 나는 이 게임에 꽤나 심취했고 최상위권까지는 아니더라도 어느 정도 상위권 점수를 따낼 수 있었지만, 붐은 서서히 가라앉았다. 


몇 년 뒤 비슷한 주제를 이제는 기계학습에서 만날 수 있었는데, 고등학교 시절 독감 바이러스의 mRNA를 분석 및 대응하는 유전 정보를 분석하기 위해 유전 알고리즘 및 SVM 같은 방식을 사용해보는 소규모 프로젝트를 했었고, FoldIt에 대한 추억 탓에 이 연구에 조금 흥미가 있었지만, 곧 여기서 내 역할이 매우 한정적이거나 최소한 내가 느끼기에 뭔가 개입한다고 할 만한 요소가 거의 없다는 걸 깨달았고, 이 분야에 대한 흥미를 잃었다. 지금 우리는 알파폴드를 보고 있다.


4) 많은 것은 비용과 에너지의 문제라고들 하지만, 수식어가 하나 빠졌다. '엄청난 규모의' 비용과 에너지의 문제. 바츨라프 스밀이 <세상은 실제로 어떻게 돌아가는가>에서 사람들의 공상을 깨주려 했던 것처럼, 현대 산업이 얼마나 미친듯한 속도와 규모로 자원을 갈아대며 쓰레기를 쏟아내는지는 일반적인 방식으로는 도저히 대응할 수 없는 수준이고, 이 규모 덕분에 단순히 자원을 생성하고 쓰레기를 처리하는 문제뿐 아니라 이를 저장하고 이동하는 수송의 문제조차 엄청난 혁신이 필요한 수준이다. 이 끔찍한 세상의 수많은 똑똑한 사람들이 골똘히 생각하고 있기를.


“열. 이것은 도시가 나에게 의미하는 바다. 기차에서 내려 역 밖으로 걸어나가면 열이 나를 전속력으로 친다. 공기, 교통, 그리고 사람들의 열기. 음식과 섹스의 열기. 고층 빌딩의 열기. 지하철과 터널에서 흘러나오는 열. 도시에서는 항상 15도가 더 덥다. 보도로부터 열이 오르고, 열은 독에 감염된 하늘에서 떨어진다. 버스는 열을 내뿜는다. 열은 수많은 쇼핑객들과 사무실 직원들로부터 나오고, 전체 인프라는 열에 기초하고, 열을 필사적으로 증가시키고, 더 많은 열을 발생시킨다. 과학자들이 이야기하기 좋아하는, 우주인들의 궁극적인 열사병은 이미 잘 진행되고 있고 당신은 그것이 어떤 대도시나 중소도시에서 당신 주변에서 일어나는 것을 느낄 수 있다. 열과 습도.” (돈 드릴로 <화이트 노이즈> 中)