테드 창의 중편 SF 소설 <일흔두 글자>[1]는 사물의 '본질'이 그 이름에 녹아들어 있는 독특한 세계관을 배경으로 합니다. 신의 이름 그 자체에 신성한 의미가 있다고 믿었던 유대교 신비주의에서 영감을 받은 소설이지요. 주인공 로버트 스트래튼은 케임브리지 대학 트리니티 칼리지에서 명명학(science of nomenclature)을 전공한 유능한 명명학자(nomenclator)인데요, 인류 멸망의 위기를 막기 위해 동분서주하던 가운데 자동인형 기술에서 실마리를 찾아냅니다. 바로 '자신과 똑같은 자동인형을 제작하는 자동인형'이지요.

자기 자신을 복제하는 것, 그리고 자연 선택에 의해서든 지적 활동에 의해서든 환경에 적응하고 변화해 가는 과정은 생명 현상의 꽤 중요한 특징 중 하나입니다. 두 사람이 만나 그 사이에서 태어난 아이는 점차 성장하면서 부모와 같은 수준의 복잡성을 획득하고, 때로는 자신을 낳아준 부모보다 더 복잡한 무언가를 성취하기도 하지요.

그렇다면 인공지능은 어떨까요? 자기 스스로를 복제하는, 혹은 자기 자신을 개선해 나가는 AI는 가능할까요? 최근 AI 연구의 첨단에는 스스로 다른 AI를 생성하는 AI 개발[2],[3] 방법론이 있습니다. 조금 자세히 살펴볼게요.

현대 인공지능 알고리즘은 대부분 기계학습(machine learning)이라는 패러다임 안에서 굴러갑니다. 말 그대로 어떤 기계가 특정한 기능을 수행하는 방법을 학습하게 하는 기법이지요. 기계학습의 구성 요소는 크게 세 가지인데요, 첫째는 학습을 진행하는 모델이고 둘째는 학습의 기준이 되는 데이터입니다. 마지막은 데이터를 이용해서 어떻게 모델을 학습시킬 것인지를 결정하는 학습 알고리즘이고요.


a15714ab041eb360be3335625683746f0053452fd6a7e989d53660f49e13cd6ed71713bddabc230c1284b33c4cca

인공지능 모델 중 가장 널리 쓰이고 또 성능도 좋은 것이 바로 인공신경망(artificial neural network)이지요. 인간 뇌의 성능이 단순히 뉴런의 개수만으로 결정되는 게 아니라 배선이 훨씬 더 중요한 것처럼, 인공신경망도 그 네트워크가 어떤 방식으로 구성되는지가 대단히 중요합니다. 하지만 많게는 수억 개에 이르는 뉴런을 서로 연결하는 방법의 수는 그야말로 무궁무진할 텐데 그중에 성능 좋은 네트워크 구조는 어떻게 골라낼까요?

인공신경망 구조와 성능의 관계에 대해 알려져 있는 일반적인 법칙은 거의 없고, 따라서 지금까지 연구자들은 생물 중추신경계를 간단하게 모사한 구조를 사용하거나 아니면 입력부터 출력까지 정보가 잘 흘러갈 것 같은 구조를 연구자의 직감으로 만드는 식으로 시행착오(trial-and-error)를 거쳐 인공신경망을 디자인했지요. 하지만 시행착오 방식은 시간과 노력이 많이 들어가고 자동화하기가 어렵습니다. 계산과학이 다루는 꽤 많은 분야에서는 단순 시행착오를 피하는 효율적인 설계 방법론을 연구하고 있는데요, AI 분야도 예외는 아니지요. 고성능 인공신경망 모델을 스스로 설계하도록 하는 메타인공지능 기법의 중요한 작업 중 하나는 2019년 발표된 아메바넷(AmoebaNet)[4]입니다.

구글 브레인에서 발표한 아메바넷은 진화과정을 모사하는 알고리즘을 통해 상상할 수 있는 아주 많은 인공신경망 구조를 탐색하는 방식으로 작동합니다. 기존에 사용하던 인공신경망 구조에서 돌연변이(mutation)가 일어나는 것처럼 비슷하지만 조금 다른 새로운 신경망 구조를 테스트하고 성능이 좋아지는 방향으로 조금씩 진화하는 식이지요. 2019년의 아메바넷-A는 이미 당대 최고의 이미지 분석 인공지능을 뛰어넘는 성능을 보였습니다.



a15714ab041eb360be3335625683746f0053452fd6a7e989d53660f79d13cd6e90d75fb2673decc946a271b22870

한편으로는 인공지능의 또 다른 요소인 학습 알고리즘 자체를 개발하는 인공지능에 대한 연구도 최근에 진행 중입니다. 역시 구글 브레인에서 발표한 AutoML-Zero[5]라는 모델은 데이터를 갖춘 AI 모델을 훈련시키는 알고리즘 자체를 처음부터 개발하는 것을 목적으로 합니다. '제로'라는 이름은 이 녀석에게 인간의 지식, 즉 기존에 인공지능 모델을 훈련시키는 데 사용해 왔던 알고리즘의 예시를 전혀 보여주지 않기 때문에 붙은 이름인데요, 신기하게도 AutoML-Zero는 어떤 배경지식 없이도 현재 인공지능 연구자들이 가장 널리 쓰는 경사하강 알고리즘을 스스로 찾아냈다고 합니다.


a15714ab041eb360be3335625683746f0053452fd6a7e989d53660f7981ccd6e11d2a73c41126ab56f3df0ce238e

이러한 메타인공지능 연구는 왜 하는 걸까요? 연구자들은 이 과정에서 인간의 기존 상상력을 벗어난 새로운 기법이 여럿 등장할지도 모른다고 기대하고 있습니다. 2016년 이세돌 9단을 꺾은 알파고(AlphaGo)의 최종 버전은 2017년 발표된 알파제로(AlphaZero)[6]인데요, 방대한 기보를 토대로 훈련된 알파고와 달리 알파제로는 인간 기사의 기보를 전혀 보지 않고 자기 자신과 대국을 두면서 스스로 훈련했습니다. 알파제로는 이세돌 9단을 꺾었던 알파고를 100전 100승이라는 압도적인 실력 차이로 격파했지요.

알파제로의 바둑 기록을 분석하던 딥마인드 연구자들은 재미있는 점을 발견했는데요, 바로 대부분의 상황에서 알파제로는 흔히 인간 바둑 기사들이 공부하는 '정석'을 구사한다는 겁니다. 즉, 수천 년 동안 인간들이 발전시켜 온 바둑 기술은 아주 효율적이고 뛰어난 전술인 거예요. 그런데 더 흥미로운 점은, 알파제로의 특정 패턴 중에는 사람이 쓴 어떤 바둑 책에도 등장하지 않는 독창적인 전략이 몇 개 숨어 있었다는 겁니다. 알파제로는 기존의 바둑 담론에 얽매이지 않기 때문에 사람들이 떠올리지 못했던 훌륭한 전술을 찾아낼 수 있었던 거죠.

메타인공지능 연구자들은 똑같은 기대를 하고 있습니다. 앞서 잠시 언급했듯이, 인공신경망 기반 기계학습 분야에는 수학적으로 증명된 이론이라고 할 만한 것들이 많이 없습니다. 지금 우리가 사용하는 기법이 정말 최적의 기법인지, 아니면 더 간단하면서도 뛰어난 방법이 있지만 우리가 찾아내지 못하고 있는 건지 알 수가 없는 거죠. 만약 인간 인공지능 전문가가 공부하는 방식, 그리고 인간 전문가의 직관에 어떤 허점이 있다면 그런 편향으로부터 자유로운 인공지능 전문 인공지능이 완전히 새로운 해법을 내놓을지도 모르는 겁니다. 마치 알파제로가 사람의 정석을 뛰어넘는 새로운 정석을 개발한 것처럼요.

물론 메타인공지능 기술은 아직 걸음마 단계입니다. 몇 가지 흥미로운 사례가 발표되긴 했지만, 인공지능이 기하급수적으로 발달하며 인간의 통제를 벗어나는 특이점(Singularity)이 가까이 온 것 같지는 않아요. 당장의 쓸모는 코드 자동완성[7] 정도일 것 같고요. 하지만 인간이 지금까지 관찰하지 못했던 방식으로 지능을 진화시킬 수 있는 가능성은 꽤 흥미진진합니다. 우리의 두뇌가 배선된 것과는 정말 전혀 다른, 완전히 패러다임을 깨는 지능 모델이 발견된다면 정말 재밌지 않을까요?