거창한 제목과는 다르게, 이 글은 스스로 목표를 구체화하고 명확히하기 위해 쓰여졌다. (뇌내망상 보고싶지 않은 친구들은 뒤로가기)

1. 특이점의 실현가능성

나는 특이점이 언제 올 것인지, 실현될지 조차 알 수 없는 미지의 영역으로 여긴다.
하지만 실제로 기술은 수렴적으로 발전하는 추세이며, 자동화의 물결은 더 빨라지고 있다.
특이점을 그냥 허무맹랑한 가설로 치부하기에는 무시할 수 없는 사실들이 많다. 따라서 상당한 근거와 설득력을 갖춘 이론이라고 생각한다.

특이점의 발생은 인류 역사에서 가장 중요한 사건이 될 것이고, 개인으로는 말할 것도 없다.

때문에 나는 특이점의 발생 혹은 특이점으로 가는 과정을 대비해야한다.
 
2. 특이점의 시나리오

유토피아적 시나리오는 개개인마다 생각이 다르겠지만, 발생해도 무조건 이득이기 때문에 고려할 필요가 적다.
그러나 대다수가 피하고 싶은 디스토피아적 시나리오는 예방해야하기 때문에 철저히 대비해야 할 것이다.

디스토피아적 시나리오는 무수히 많겠지만, 내가 가장 우려하는 바는
'인간 기반의 A.I(슬픔이나 분노같은 감정을 느끼고 사고과정과 판단이 인간과 유사한) 혹은 인간 스스로 지능을 향상시키는 경우다.'

특이점의 탄생에 부합하는 초지능 탄생이 이뤄지기도 전에,
인간 기반의 A.I나, 인간 스스로 지능이나 신체적 능력을 향상시킬 수 있는 기술이 머지 않은 미래에 개발될 가능성이 충분히 있다고 여긴다.
이들은 인류문명의 총합이 가진 지성을 뛰어넘는 초지능같은 압도적인 능력을 갖고 있진 않겠지만,

대다수 개별 인간들보다는 훨씬 뛰어난 지적,신체적 능력을 갖고 있을 가능성이 높을 것이다.이런 부류는 기술을 먼저 선점할 수 있는 상류층일테고, 집단을 이룬다면 소수로도 다수를 압도할 수 있는 위협적인 세력이 될 것이라 생각한다.

특히 인간 기반의 A.I는 비생물학적 지능이지만, 인간과 사고과정이 비슷하다면 감정이 생기고 욕망이 탄생해서 매우 위험할 수 있다고 본다.
생물학적 지능의 신체구조의 한계 떄문에, 비생물학적 지능의 압도적인 발전이 선행되지 않는다면 불가능할 것이라고 단언할 수도 있다.

물론 그럴수도 있지만, 대다수 인공지능 연구는 사람의 뇌나, 신경계를 모방해서 이뤄지기 때문에 그 과정에서 인간에게 적용할 수 있는 방법이 먼저 발견될 수도 있다.

1) '무'에서 비생물적인 기계공학으로 '정신적 지능'을 탄생시키는 것
2) '유'에서 이미 '정신적 지능'이 존재하는 사람의 뇌를 먼저 업그레이드 시키는 것

둘 중에 어떤 것이 난이도가 높은지 쉽게 가늠할 수 있는가?1)보다 2)가 먼저 탄생한다면 2)은 특권계층이 될 가능성이 높다. 그리고 다시는 그 차이를 뒤집기 어려울 것이다.
민주-자본주의 체제 때문에 모든 계층이 가격의 하락으로 혜택을 받을 것이라 생각하는 사람도 있겠지만 적어도 나는 그렇게 생각하지 않는다.

산업혁명이 일어나면서 사회가 복잡해지고 고도화됨에 따라, 분업과 특화에 따른 체계적이고 전문화된 과정을 걸치지 않으면


자신의 영역에서도 경쟁력을 갖기 어려운 사회가 되었다. 이에 사회를 유지하기 위해서는 소수가 아니라 다수를 포용하고 만족시켜야 하는 시대가 도래했다.


다수인 민중들에게 힘이 생겼고 그것이 민주주의가 발전할 수 있었던 근간이라고 생각한다.


민주주의가 현대에 전세계적으로 유행하는 것은 도덕, 윤리적인 이유가 아니라

공산주의, 제국주의, 전체주의 보다 민주-자본주의가 체제경쟁에서 효율적이기 때문이라고 생각한다.


이미 소수가 다수를 압도적으로 이기고 효율적으로 사회를 지배할 수 있다면, 굳이 민주적, 자본주의적 체제로 시스템을 구성할 필요가 있는가?


위에 내가 가장 우려하는 디스토피아적 시나리오를 써보았는데,
가장 사람들이 두려워하는 주류 시나리오 중 하나인 '초지능 반란' 은 그닥 걱정하지 않는다.

만약 초지능같은 압도적인 지성을 가진 정신이 탄생한다면 어떤 방법으로도 '초지능'은 견제가 불가능하다.
개미 수십만마리가 뭉쳐서 태풍을 멈추려는 것과 비슷하다고 생각한다. 탄생 이전에 설계를 잘하는 수 밖에 없다.

우리가 지나가는 개미에게 아무런 관심이 없듯이, 초지능도 인간 기반의(사고과정이 유사한) 감정을 가지지 않는다면 굳이 해를 끼칠 이유가 없으리라 생각한다.

그럼에도 불구하고 해를 끼친다면 막을 수 없다.
나는 개인으로써 능력의 범주를 벗어난 위협에 대해서 걱정하지 않는다. 그건 불가능한 것이다.

3. 디스토피아를 피하기 위한 개인으로써 최상의 선택

초지능의 반란이든, 상류층의 기술독점이든 자신을 보호하는 방법은 그만한 힘을 갖추는 것이다.
총을 가진 강도에게 대항하기 위해서는 총이 있어야 한다.


앞으로의 짧은 미래는 자유의지로 삶을 개척할 수 있는 마지막 기회일지도 모른다.
다가오는 미래, 순수한 인간의 육체만으로 노력하는 것은 한계가 명확하다.
나는 더 효율적으로 강한 체력, 지능을 얻기 위해 스스로를 업그레이드 시킬 것이다. 사이보그가 되기로 결심했다.

사이보그와 연관된 직군도 아니고 지식도 없다. 돈으로 기술을 구입할 수도 없다.
하지만 지금부터라도 해야만 한다... 새롭게 공부하고 나아갈 것이다. 시작하자.