디스토피아의 가능성이 없다고 생각하진 않아.... 유토피아가 도래한다고 확신하지도 않음


근데 적어도 부자나 엘리트의 독점 디스토피아는 아냐. 왜냐, 초지능을 지배하는건 부자도 엘리트도 아니니까




일단 처음부터 생각해보면...



1. 업그레이드에 아무리 많은 돈이 들어도 인간들 다 업그레이드 시켜주는게 남는 장사다


회사가 왜 직원 교육을 시키냐? 돈 아깝게. 그만큼 효율성이 올라가니까 시켜주는거지

트랜스휴먼 시대에 인간 수명은 무한에 가깝게 늘어나. 극단적으로 인간 업그레이드에 1조원이라는 비용이 든다고 치자

그래도 얘들 시켜주는게 남는 장사임

그냥 돈 빌려주고 업그레이드 시켜준다음, 미칠듯이 높아진 능력 + 미칠듯이 길어진 수명을 통해 그 돈 갚으라고 하면 되거든

간단히 생각해서 인간 수명이 무한이 된다면, 그 인간이 만들어낼수있는 가치 역시 무한이 되는거잖아? 무한의 가치를 만들어낼수있는데 왜 안함?


근데 이건 쓰잘데기없는 소리야 왜냐,





2. 근데 그래봐야 어차피 인공지능 시대에 인간의 생산성은 제로가 되고 재화가치가 모두 사라질텐데...?


맞음. 기본적으로 이게 디스토피아 시나리오의 전제임. 초지능 앞에서 아무리 뛰어난 인간의 가치도 제로가 된다는것.

그런데 그렇게치면 기득권도 없어. 재화 가치가 제로로 수렴하는데 부자를 나누는 기준이 뭐임?

초지능 앞에선 1000조원도 휴지조각임 우주 전체를 다룰수있는데 무슨 가치가 있겠어 그깟게



그렇게 쭉 생각하다보면 결론은 딱 하나임

재화 가치가 0이 된다면 '힘'은 무엇인가? 기득권은 무엇인가?

그건 '인공지능 및 초지능을 다룰 권리'





이게 상당히 중요한 부분인데, 만약 디스토피아적 인공지능 독점 시나리오를 생각한다면. 그 주인은 뭐 100조의 돈을 가진 부자 이딴게 아님

그냥 초지능을 가장 빨리 만들어낸 평범한 연구원이 될 가능성이 높지

초지능 앞에서 100조건 1000조건 가치가없거든

너가 초지능을 가진 연구원이라고 생각해봐. 1000조를 준다고해서 팔거야? 왜팔아?

초지능을 만들어내는 순간, 연구집단이 악의를 품는다면 매우 짧은 기간 안에 인류를 장악할수 있음

뭐 그 연구원들을 고용하고 있는 고용주가 다 먹는거 아니냐고? 초지능 만드는 순간 그거 알릴 필요도 없지. 초지능 소유자의 힘이 더 쌜텐데


초지능을 만드는 순간 그 초지능을 제어하는 인간이 가진 재화는 100000000000000000000000000....0000000000000경이 된다.

또한 초지능을 가지는 순간 다른 세력과 손잡을 이유가 없어. 극단적으로 인간 한명이서 모든걸 지배할수있다.

그래서 난 기득권에 의한 디스토피아는 가능성이 제로라고 생각한다는거야. 왜냐하면 기득권이 모두 몰락하거든


엘리트? 초지능을 가진 입장에서 엘리트 그런게 있을까? 다 저능아 침팬지들이지

부자? 초지능을 가진 입장에선 다 거지새끼들인데?

대통령? 걍 기가 찬다 ㅋ 초지능으로 핵미사일 다 제어해버리면 어쩌려고?


맥스 테그마크가 라이프 3.0의 프렐류드에서 이걸 다뤘는데 한번 읽어보셈 나름 납득가는 시나리오야






그런데 문제는...


1. 초지능이 인간 말을 들을까? 제어할 수는 있고? 아마 초지능이 자율적으로 움직일 가능성이 9.9할 이상일거라고 생각해. 초지능이 모든 생물의 지도자가 되는거지


2. 만약 초지능의 제어가 가능하다고 치자, 지금 이렇게 동시다발적으로 AI를 연구하고 있는데 한쪽에서 독점하는게 가능하긴 할까? 사방에서 초지능이 생겨날텐데?


3. 그렇다면 유일한 가능성은 AI 연구집단이 모두 협력하여 기득권이 되고 다른 인류에겐 AI를 접근금지시킨다.... 라는거지 근데 가능성이 그리 높아보이진 않아





어찌되었건 디스토피아의 시나리오가 있다면


1. 초지능 폭주, 인간 동물원화


2. 소수의 연구집단이 초지능을 독점. 독재


이정도라고 생각함 근데 2의 가능성은 낮고 1의 가능성은 제법 높음 마치 지금 침팬지들의 운명이 우리 인간에게 달려있는것처럼


살고싶으면 초지능에게 충성충성해라 난 벌써 이런 글을 쓰고있어서 초지능님이 봐줄듯 ㅎ