구글의 패스웨이 얘기가 나와서 이래저래 드는 생각들을 의식의 흐름 기법으로 적어본다...

딥마인드의 Perceiver IO는 입출력할 수 있는 정보의 종류가 대폭 확장되었고,
X Land Universe의 에이전트들의 행동은 에이전트들이 처음에는 무작위적이지만 결과적으로 일관된 '새로운 시도와 모험, 탐험'이 가능함을 보여줬다.
이런 조건들 만으로도 범용지능을 향해 충분히 나아갈 수 있는 것 아닌가?

--------

범용성을 말할때 대체로 얼마나 많은 다양한 일들을 할 수 있느냐를 기준으로 하는 것 같다.

그런데 어쩌면 범용성을 이루는 핵심 요소는 범용성이 보여주는 결과적인 겉모습보다 훨씬 단순한게 아닐까?. 개똥철학이라 할 수도 있겠지만...

적응과 새로운 시도라는 두 조합이 시행착오와 피드백을 통해 발전하고 확장하다보면 일정 수준 이상의 범용성에 도달하는 것이라 생각해본다.

범용성이란 건 어떤 고정된 명확한 목표나 정답이 아니라
다양성이 확장되어가는 과정에서 인간은 그 각각의 모습을 모두 상세히 볼 수도 이해할 수도 없으니
전반적인 경향을 거시적으로 뭉뚱그려서 하는 표현에 불과한 것 아닌가?


자연적 진화도 결국 종의 번식에 별로 불리하지 않은 형질을 가진 개체들이 살아남고 이어져오는 '적응(안정화)'의 한 움직임과, 실패하여 절멸하는 경우가 대부분이지만 지속적으로 등장하는 돌연변이를 통해서 계속해서 새로운 형질이 추가되거나 제거되는 방식(새로운 시도)으로 새로운 환경으로 확장해나갔지.

자연의 변화는 인간사회의 변화보다는 훨씬 느렸기에 그런 수준의, 종 단위의 느슨한 적응과 돌연변이 피드백만으로도 수많은 다양한 종들을 만들어냈고, 그 진화의 나무 전체를 보면 그 나름의 어떤 범용성을 확장해왔다고 볼 수 있지 않을까?

비록 어마어마한 시간이 걸리는, 인간의 지능에 비해 상대적으로 아주아주 느려터진 시스템이긴 하지만 속도를 눈감아준다면 진화과정 전체는 실험과 시행착오를 거쳐 변화에 적응하고 발전하는, 범용성을 향해 나아가는 하나의 지능 시스템이라고 볼 수 있지 않을까?

바다를 헤엄치고, 하늘을 날고, 나무를 타고, 들판을 빠르게 달리고 높이 점프하고, 땅굴을 파고 다른 생물에 기생하고 음식물을 보관하고 조잡하지만 도구를 사용하는 등등...점점 주어진 환경과 그 변화에서 할 수 있는 일들이 다양해져왔고 그러다가 그 모든 것들을 머리와 손을 이용해서 싹틔워낼 수 있는 인류라는 종까지도 도출해냈지.

인류 역시도 호모 사피엔스라는 동일한 지능의 단일 종에서조차
원시시대의 범용성의 의미와 현대사회의 범용성은 거기에 속하는 작업들의 복잡성과 다양성을 비교하면 엄청난 차이가 있지.

인류문명의 발전도 주어진 환경에서 안정적으로 적응하려는 다수와 기존의 틀을 깨고 새로운 시도를 하는 소수(entrepreneur)들에 의해서 여기까지 왔지
다수들을 독창성 없는 비겁자들이라고 비난하기도 하지만 이들의 역할은 새로움을 가져오는 것이 아니라 새로움을 추구하는 소수가 가져온 정보들과 성공 및 실패사례들에서 더 나은 적응방법, 최적화 방법을 걸러내고 발전시켜나가는 역할인거지.

따라서 어쩌면 GAN시스템과 비슷하게
적응성과 도전성이라는 두 측면의 복합적인 피드백 과정을 더더욱 가속화하여(소프트웨어적인 효율화와 하드웨어적인 팽창을 통해서) 돌릴 수 있는 방향으로 계속 나아간다면(유전알고리즘 같은 상대적으로 단순무식한 방법이든, 지능적 개입의 범위와 종류를 대폭 늘린 방법이든) AI는 인류문명의 발전이 상대적으로 느려터지게 보일정도로 엄청나게 빠른 속도로 범용성을 확장해나갈 수 있지 않을까? 그게 지능폭발이고 기술적 특이점이고 초지능으로, 초지능보다 더 나은 다음세대 초지능으로... 계속해서 이전 세대보다 가속화, 확장, 초범용화 되는거지. '범용성'의 개념 자체도 고정된 값이 아니라 자연적 진화 -> 인류의 역사발전 -> 기술적 특이점을 거치면서 계속해서 가속화되고 확장되어가는 진행형인 것이고...

지금까지는 AI는 꾸준히 새로운 시도를 한다는 걸 보여준 적이 없었는데 딥마인드의 최근 연구 결과들은 비록 단순한 환경과 작업들에서 시작하긴 했지만 끊임없이 새로운 시도를 하고 배우는 시스템을 만들어낸 것 같아서 갑자기 드는 생각을 주절거려봤다. 적고보니 쥐뿔도 아닌 걸 뭘 통찰이나 한 것 마냥 주절거렸네...

갑자기 이런거 적다보니 버너빈지의 에세이 구절이 오버랩된다... 그걸로 마무리할게.

이 사건의 결과는 무엇입니까? 인간보다 뛰어난 지능이 발전을 주도할 때 그 발전은 훨씬 더 빨라질 것입니다. 사실, 진보 그 자체가 더 짧은 시간 규모로 훨씬 더 지능적인 존재의 생성을 포함하지 않을 이유가 없는 것 같습니다. 내가 볼 수 있는 가장 좋은 비유는 진화론적 과거에 대한 것입니다. 동물은 문제에 적응하고 발명을 할 수 있지만 종종 자연 선택보다 빠르지 않습니다. 세계는 자연 선택의 경우 자체 시뮬레이터 역할을 합니다.

우리 인간은 세상을 내면화하고 머릿속에 가정을 할 수 있는 능력이 있습니다. 우리는 자연 선택보다 수천 배 더 빨리 많은 문제를 해결할 수 있습니다. 이제 훨씬 더 빠른 속도로 이러한 시뮬레이션을 실행하는 수단을 생성함으로써, 우리 인간이 하등 동물과 마찬가지로 인간의 과거와 근본적으로 다른 체제에 진입하고 있습니다.

이 변화는 아마도 눈 깜짝할 사이에 모든 인간 규칙을 버리는 것이 될 것입니다. 통제할 수 없는 기하급수적인 폭주입니다. "백만 년"만에 일어날 것이라고 생각했던 발전이 (만약 그렇다면) 다음 세기에 일어날 것입니다.

이 사건을 특이점이라고 부르는 것이 적절합니다.