안녕 오랜만이야.

난 주 완몰가님을 섬기는 와몰가신자야.

최근 개인적으로 준비하는 일이 바빠서

한동안 글이 뜸했어.

(사실 소재도 고갈됨 ^오^)





한동안 바빠서 눈팅도 못하다가

엊그제 몇 번 들어가봤더니

특슬람들이 흥미로운 주제로 썰전을 벌이고 있더라고

그래서 나도 한번 내 생각을 말해보고 싶었어

(걍 나대고 싶었다는 뜻임)





일단 노파심에 말하자면

나의 생각으론

특이점 유토피아가 올 확률이

특이점 디스토피아가 올 확률보단

높다고 생각하고 있어.

그러니까 주 완몰가님을 믿는거겠지?






하지만 '특이점 디스토피아가 올 수도 있다!!!'

'기계가 인간을 지배할 것이다!'

'부자들의 전유물이 될 수 있다!!!'

따위의 글들을 마냥 개쓰레기 잡소리로 봐야하느냐

그건 아니라고 생각함 ㅇㅇ







블랙스완 효과라는 경제용어가 있음

일어날 확률은 쥰내 낮은 일이지만

일단 한번 일어나면

진짜로 조호옷되는 일의 파급효과를 일컫는 용어래.






특이점 디스토피아가 아무리 확률이 낮더라도

일단 일어나면 개죠때겠지?

다른 디스토피아도 아니고

특이점 디스토피아인데

특이점이 죠빱도 아니고

그런 일이 일어난다면 상상도 하기 싫다 ㅎㄷㄷ






그럼에도 그런 일들을 상상하거나

그런 생각들을 입밖으로 꺼내는 사람들이 필요한 이유는

이런 겐세이들이 나름의 자정작용을 해주기 때문임




높은 확률로 특이점은 탄탄대로를 걷겠지만

만에 하나 불길한 조짐이 보인다면

그때 특이점 디스토피아 운운 씨부리던 애들의 말이 떠오를거고

돌다리도 두드려 건넘으로써

미연에 방지를 할 수 있겠지?






현재 특이점 네임드 중에

그런 역할을 하고 있는 사람들 중 한명이

바로 엘런 머스크야.






엘런 머스크가 뉴럴링크를 설립한 취지는 다들 알지?

혹시나 강인공지능이 터미네이터마냥 인류를 조질 때

그나마 그에 대항하는 수단으로서

인간의 뇌를 업그레이드시키는 뉴럴링크를 내세우는 거 ㅇㅇ

(실제로 엘런 머스크는 여러 팟캐스트에서 강인공지능의 위험성을 집요하게 어필하고 있다)





그리고 레커가 워낙 이 바닥의 인지도에서 넘사벽이지만

은근히 레커를 낙관론자라고 까거나

디스토피아에 대비해야한다는 특이점주의자 석학들도

더러 볼 수 있음





그리고 뭐 관련 분야 종사자는 아니지만

컨텐츠 업계에서 이런 역할을 하고 있는 대표적인 사례로는

영국 드라마 <블랙미러>와

본 드라마의 제작자 찰리 브루커를 들 수 있겠지





일단 이런 디스토피아 담론이 스토리로 따졌을 때

유토피아보단 개꿀잼이라서 흥행하는 걸 수도 있겠지만

블랙미러를 재미있게 보다보면 가끔씩은

'어? 근데 만약에 진짜 저렇게 되면 어떻게 해야하지?'

싶은 때가 있음





난 개인적으로

특이점 디스토피아라든가 여러 문제점이 일어난다면

그게 특이점 이후에 일어나는게 아니라

특이점으로 넘어가기 직전의 과도기때 일어날 가능성이 높다고 봄






즉, 특이점 디스토파아의 담론은

'흑흑 ㅜㅜ 특이점 무서워 우리를 다 기계/부자의 노예로 만들어 버리고 말거야 ㅜㅜ'

같은 류의 이야기가 아니라



'진짜 중요한 일이고 되돌릴 수 없는 파급력을 가진 만큼 첫단추, 매 단추 마다 신중을 가하자'


특이점이 별 탈 없이

무사히 도래할 수 있도록 해주는

'산파'의 역할을 해줄거라

믿어 의심치 않아.




또또 개쫄보 완몰가신자

욕바가지로 쳐먹을까봐 약치는거 봐라~

서론이 너무 길었으니 빨리 본론으로 가보잣!





참고로 이번글은

글 거의 전체가

거대한 하나의 빌드업이라

일부만 보면 오해하기 딱쉬움

그점 유의하거 봐주면 고마울 것 같아 ^오^




특이점 디스토피아의 가능성을 맡고 있는

위험요소/불안요소는 무엇이 있을까?




1편에서는 경제적 빈부격차 디스토피아와 관련해서 알아보자.





1) 독점의 이유 : 돈과 권력? NO! 돈'보다' 권력!



우선 심도 있는 이야기에 앞서

특슬람들이 먼저 짚고 넘어갔으면 하는 얘기가 있어.

아래는 한 특갤러가 쓴 글이야




개념글 : 독점은 악인가?




개인적으로 매우 인상깊게 읽은 글이야

나 같이 경제학하고 담쌓은 빡대갈도 이해하기 쉽게

자세히 논리정연하게 써준 글이야.



대충 요약하자면

경제학적인 관점으로 봤을 때

특이점 디스토피아는 허무맹랑한 이야기라는 내용이야.

독점이 오히려 자본주의 시스템 아래에서

우리같은 일반인들이 수혜를 겪는 경우도 설명해주고 있지.

그리고 지금까지의 추세로 보았을 때

기술발전은 앞으로 빈부격차를 더욱 줄여나가고

유토피아를 형성할 거란 이야기지.






하지만 난 개인적으로 이 글에서 아쉬웠던 부분이 하나 있었어.

독점을 비롯한 인간 대 인간의 행사력을

너무 경제적인 측면에서만 바라봤다는 사실이야.

사실 기업, 집단, 국가차원의 적대행위들은

경제적인 것 보다 높은 차원의 이유가 자리잡고 있거든




전쟁만 봐도 그래.

세상의 전쟁들은 돈 때문에 일어난다고들 하지.

이건 흔히 퍼져 있는 오개념이야.

반은 맞고 반은 틀린 내용인데 전쟁이 일어나는 이유는

경제적인 이유보다 더 위에 있음




'권력'이야.



뭔 소리냐고?

다음 2가지 물음에 대해 한 번 대답해봐




1. 왜 일본은 자신보다 경제력이 절반도 안 되는 러시아에게

쿠릴열도 문제 관련해서 쩔쩔매기만 하는 걸까?

어째서 러시아는 일본에게

항상 저자세가 아닌 고자세로 밀어붙일 수 있는 걸까?



2.왜 넥슨의 김정주와 삼성의 이재용이

재력으로만 따지면 지들보다 좆밥인 국회의원들에게

담당셔틀마냥 쩔쩔 매는 걸까?




이 두 질문에는 똑같은 답변이 가능해.




'권력이 없어서'





일본이 러시아보다 '권력'이 약해서

김정주 이재용이 국회의원보다 '권력'이 약해서



권력 : 타인에게 강제력을 행사하여 자신의 의지를 관철하는 힘 또는 능력



러시아와 일본의 경우에

러시아의 압도적인 군사력이

강제력으로 작용하고 있다 할 수 있고




김정주와 이재용 같은 재벌들에겐

법치의 힘이 강제력으로 작용하고 있다 할 수 있지


우리 같은 평민들의 세계에선

대부분 강제력으로 작용하는 것들이 '돈'이라서

흔히들 돈과 권력을 혼동하곤 하는데

둘은 엄연히 다른 것이야.




돈은 많은데 권력이 없으면

오히려 지갑셔틀이 되어버린다구



어째서 19세기 최고의 자원부국이었던 에콰도르가

그렇게 비참한 최후를 맞이했는지 생각해봐.



세계 1차대전, 2차대전도

유럽대륙의 '권력' 균형이 깨져

권력의 '진공'이 생겨 벌어진 전쟁이고




중국의 삼국시대

전국시대

모두 압도적인 권력의 부재가 초래한

권력쟁탈전, 즉 파워게임으로 일어난 전쟁이야.




빈부격차 이야기로 돌아가도 마찬가지야.

왜 인류의 식량 생산량은

전세계 인구를 먹여살리고도 남을 규모인데

아직도 제 3세계에서는 굶어죽는 사람들이 나올까?




유통의 문제라고?

그럼 그 유통의 문제가 왜 일어날까?

왜 이런 불균형이 일어나고 있지?



선발주자 선진국, 개도국들이

후진국이 자신의 권력을 넘보지 못하도록

사다리를 차고 있기 때문이야.



그리고 권력이 약한 자들은

무너져버린 사다리에 고통받기 마련이야.




80년대에 미국을 넘보다 추락해버린 일본이 그랬고

지금 미국을 넘보고 있는 중국이 조만간 그럴거고



지들은 성장중일 때 환경오염 쥐뿔도 신경안썼던 선진국들이

오늘날 와서야 브라질 같은 개도국에게

빡세게 환경오염문제의 책임을 지우고 있는 것도

그 일환이야.





내 말의 요지가 뭐냐면

독점도 독점 나름이라는 거임




위 링크의 개념글에서 말하는 '독점'은

경제적인 시스템 아래에서 이루어지는 독점이야.

즉, 안전한  '착한' 독점이지



위 링크에서 예시로 드는 독점이

사우디아라비아의 석유 독점인데

사우디아라비아가 뭔 힘이 있다고

석유를 독점하면서 가격 안 낮추고 개기겠어.

가격을 안 낮추는 순간 미국형아한테 뚝배기 깨지는거지.

사우디아라비아가 '착해지기 전에'

알아서 착하게 된거임.




문제는 '권력'에 의한 독점이야.

일본이 한국한테 핵심부품 수출 제한 거는게

바로 이런 케이스지.

일본이 미국한테 똑같은 짓 할 수 있었을 것 같아?

예시가 적절한지는 모르겠는데

뭔 느낌인지는 알 거야



여하튼 이런 파워게임으로 인한 기술 독점이 오면

디스토피아가 오기에 충분해.



즉, 압도적인 권력을 가진 주체가

특이점을 일궈내고

그 기술을 독점한다면,

그리고 그걸 부당한 방식으로 휘두른다면




누가 무슨 수로 막을거야?




여기까지 읽었다면 드는 반감어린 생각이 있을 거야.




'에이~ 누구 좋으라고 그 기술을 독점해?'

'다 같이 행복하게 살고도 남을텐데 뭐하러 독점하려 하겠음?'

'무슨 이익이 있어서 그런 짓을 함?'









ㅇㅇ 무슨 이익이 '있어서' 그런 짓을 함







2) 우리들한테 왜그래!! : 나쁜놈들이 나쁜 짓 하는 심리


흔히


'모두에게 특이점을 누리게 하지 않을 이유가 없다'

'독점을 해봤자 이득이 없다'

라는 말은 특이점 디스토피아를 부정하는 대표적인 논리야.





근데 난 이 말에 동의하지 않아.

동의하지 않는 수준이 아니라

개인적으로 말도 안 되는 이야기라고 생각하고 있음





이렇게 말하면 서론에서 내가

'특이점 유토피아가 올 확률이 디스토피아보다 높다'

라고 한 말이 빈말처럼 되어버리는데

난 실제로 그렇게 생각함 ㅇㅇ 빈말이 아님.





근데 내가 특이점 디스토피아가 안 올 확률이 높다는 건

절대 '인간이 착해서'라는 이유가 아님

난 다른 이유에서 유토피아가 올 확률이 더 높다고 생각하는거지

'독점을 해봤자 이득이 없다'라는 이유로

유토피아가 실현될 거라곤 생각하지 않아.




왜 특이점이 와도

남들에게 나눠주지 않지?

왜 독점하려고 하지?

모두가 행복해질 수 있는데?

세상에 나쁜 새끼들이 그렇게 많음?





이 부분에 대해선

1. 생물학적 관점

2. 국제역학적 관점

3. 뇌과학적 관점

으로 나눠서 내 생각을 전해보려고 해




일단 생물학적 관점으로 살펴보자.

모든 인간들에게는 이기적인 면모가 있어.

왜 그럴까?

왜긴 왜야 우리가 그렇게 진화했기 때문이야.

우린 모두 우리의 조상으로부터 이기적이도록 진화했어.

책이름도 있잖아.

'이기적인 유전자' (물론 제목이 그런 단순한 뜻은 아님 ㅋ)





넌 아닐 것 같아?

테스트를 해보자고.





너에게 두 가지 선택지가 있어.





하나는 네가 전세계 최고의 권력자가 되는거야.

(이 선택지의 이름은 '절대자의 소망'이라고 할게)

니가 명령만 하면 무엇이든 얻을 수 있고

무엇이든 가질 수 있어.

널 방해하는 것 따위는 없어.

니 말 한 마디에 누군가가 행복에 겨운 눈물을 흘릴 수도

비통에 빠진 절규를 외칠 수도 있어.

니 손가락질 하나에 누군가는 살고 누군가는 죽을 수도 있어.

니가 원하는 건 무슨 수로든 이룰 수 있어.

말 그대로 절대자가 되는 거야.

완몰가속 이야기가 아니라

현실세계가 너만의 완몰가가 되는거지.




또다른 선택지도 있어.

모두가 너와 같은 무한한 풍요 속에서 사는거야.

(이 선택지를 '모두의 풍요'라고 할게)

너뿐만 아니라 전세계의 모두가 풍요롭게 살 수 있어.


하지만 넌 남에게 뭔가를 강요할 수 없어.

만약 누군가가 네가 원하는 걸 원치 않는다면

그걸 방해할 지도 몰라.

그리고 법적 사회적 정당성만 있다면

그 방해는 결국 네가 원하는걸 좌절시킬거야.

하지만 괜찮아. 모두가 풍요로울 수 있으니까.

네가 이룰 수 없는건 완몰가속에거 이루면 그만이야.




이 두 가지 선택지

(절대자 소망/ 모두의 풍요)

를 니가 선택할 수 있다면

어느걸 택하겠어?





이렇게 말하면 당연히 절대자가 되는 걸 선택하겠지!






라고 할 줄 알았지? ㅋ



페이크지롱




아마 선택이 반반 갈리거나

오히려 모두가 풍요를 누리는 걸 택하는

특갤럼들이 더 많을지도 몰라.




모든 특갤럼이 중2병 환자는 아닐테니까.






"띠용~ 대체 뭔 얘기를 하려는거야?"






하지만!! 질문을 좀 비틀어볼게.

너에게 두가지 선택지가 주어진 건 동일해.

하지만 다른 점이 있어.



너 말고 또 다른 한명에게도 선택지를 주는 거야.

그 한명에게도 똑같은 선택지를 주는 거지.




만약 너와 그 사람이 동시에

'모두의 풍요'를 소망하거나 '절대자'를 소망하면

결과는 '모두의 풍요'가 이루어지게 돼.



하지만!

만에 하나 너는 '절대자'를 택했는데

상대방이 '모두의 풍요'를 선택하면

너의 '절대자 소망'만이 이루어지고



반대로 너는 '모두의 풍요'를 바랬는데

상대방이 '절대자 소망'을 선택하면

상대방이 절대자가 되고

너와 전 세계 사람들은 상대방의 노예나 다름 없게 돼






이런 경우엔


어떤 선택을 할 거야?








아마 이 경우는

대부분의 사람들이 절대자 소망을 하겠지?




어디서 많이 본 그림일 거야.

'죄수의 딜레마'




내가 무슨 말을 하고 싶은 거냐면
인간은 일단 자신이 권력을 독점할 수 있는 조건이 생기면

독점을 하게끔 되어있다는 거야. (그럴 경향이 높다는 거야)



이건 단순히 욕심이 많고의 문제가 아니야.

'생존'의 문제야.

상대방과 내가 같은 힘을 가지면

내가 큰 힘을 가진 것보다

생존에 불리하니까.





그래서 진화는 우리에게 '권력욕'이라는 욕구를 심어놓은 거야.

남들보다 더 권력적으로 우위에 있을 때

도파민이 분비되어 기모띠하도록

생물학적 차원에서 진화한 거야.




북한이 지독하게 핵을 포기 안하는 이유가 그거거든.

사실상 못하지.




위의 절대자, 풍요 사고실험은

단순한 중2병적 발상이 아니라

국제역학적 현상을 설명하는 중요한 지표야.



역사를 봐도 '절대자'의 길

'패도의 길'을 걸은 문명이

압도적으로 많아.

'모두의 풍요'를 택한 것처럼 '보이는' 사례들은

절대자의 무게가 버거운 나머지

피지배층을 달램으로써

절대자의 길을 유지하려고 한 거고

(로마제국의 정책, 고려의 호족, 명나라의 조공제도 등등)



현대 시대에 식민지가 거의 사라진 이유가

윤리적인 이유인 줄 알지?

아니야. 미국이 패권을 잡으면서

미국 중심의 자유무역, 세계시장 질서에 따르는게

식민지를 품고 있는것 보다 이득이어서 그런거야.



이를테면 대영제국의 위상은 줄었지만

막대한 식민지 관리비가 안드니까

대영지국 시절보다 오히려 오늘날 영국이 더 풍요로워진거임



이처럼 영국을 비롯한 많은 나라들이 식민지를 포기하는건

'모두의 풍요'가 아니라

'절대자'의 선택지 (자신의 이득)에 가까운 거야.




특이점 이야기하다가 뭔 소리인가 싶지.

이 '절대자 소망'의 선택지가 특이점의 독점이고

'모두의 풍요' 선택지가 특이점 보편화라고 치자.




만약 기술적 특이점을 이뤄낸 국가(혹은 세력)이

절대자의 길을 택하지 않을 확률은

역사를 비춰볼 때 얼마나 가능성이 높을까?




예를 들어 미국에 특이점이 왔는데

미국이 중국이나 러시아한테

모두의 풍요를 위해 그걸 나눠줄까?




물론 어중간한 신기술이면 그럴 순 있겠지만

특이점은 기본적으로 기하급수적 성질을 지니고 있어.




샘 해리슨에 따르면

MIT 연구원 한 명 지능의 강인공지능만 만들어져도

20명의 MIT 연구원이 2만년 걸릴 연구를

2주만에 처리할 거로 보고 있어.

전기뇌는 생물학뇌보다 정보처리속도가 100만배 빠르거든



이런 경우만 봐도
강인공지능 2주만 일찍 개발하면

다른 연구팀들보다 2만년은 앞선다는 소리가 돼


하물며 국가주도적으로 육성된 연구가

기술적 특이점을 이뤄내면

며칠 사이에 몇만년의 격차를

다른 나라와 벌리게 되지 않을까?

말 그대로 승자제패, 승자독식이지



그리고 그 기술은 당연히




군사기술도 포함되어 있을 거고




미국 입장에서 모두의 풍요를 위해

가상적국인 중국과 러시아에게

특이점 기술들을 전파한다고 치자.

(모두의 풍요 선택지)



그럼 미국의 입장에서

중국과 러시아가

'절대자'의 선택지를 선택안할 거란

확신을 할 수 있을까?




진짜 그럴 일은 없겠지만

북한에서 먼저 특이점이 왔다 치자.

무슨 일이 일어날 것 같냐? ㅋ



즉, 특이점의 독점은

탐욕의 차원에서 일어나는게 아니라

'안위'를 위해서

즉 권력에서 오는 안전상의 이익에서 일어나는 거야





더 무서운건 이런 권력의 대립양상이

꼭 국가대 국가 양상으로 이루어진다는 보장이 없다는 거야

만약 특이점을 일궈낸 것이




기업이라면?





특이점은 간발의 차에 미친듯한 격차가 생긴다고 했지?



패권국가를 압도하는 '기업국가'가 안나온다는 보장이 있을까?



이런 경우는 진짜 말 그대로

'부자들의 전유물' 시나리오가 생길 수도 있는 거야.



그리고 마지막으로 뇌과학적 관점..

그거 알아?

우리가 권력에 '취하는' 것은

마약에 취하는 것과 유사한 화학반응이

뇌에서 일어난데.




그리고 이런 현상은

뇌의 전두엽을 파괴한다는 거야.

그럼 무슨 일이 일어나는 줄 알아?

전두엽에 자리잡은 거울뉴런이 파괴돼.






거울 뉴런은 '타인의 감정, 고통에 공감하는 역할'을 담당하고 있어





이게 파괴되면 뭐다?

소시오패스, 혹은 싸이코패스가 되는거야.

(두 성격장애는 모두 B형 성격장애로 전두엽 기능문제와 연관이 있다)





사실 이런 경우 싸이코패스는 아니고

소시오패스가 되는데

고위공직자, CEO, 정치인 중에 유독 소시오패스가 많은 이유가

여기에 기인해.




처음부터 이상한 놈들이 아니라

자리가 사람을 그렇게 만든거지.

권력이 사람을 그렇게 만드는 거야.





심지어 소시오패스는 출세에도 유리하다는 연구가 있는 걸 보면

악순환의 반복이지.

권력이 소시오패스를 만들고

소시오패스가 되면 더 쉽게 권력을 얻는다는거 ㅇㅇ

소시오패스가 도덕적 회의감으로 전염된다는 이야기가 여기서 나오는 거야.

(물론 높은 사람들 모두가 소시오패스라는 건 절대 아니야.

다른 집단에 비해 비율이 높다는 거 ㅇㅇ )






자 그럼 기업에서 기술적 특이점을 이룬다면

그 기술의 사용주체는

낮은사람일까, 높은 사람일까?




높은 사람이라면

소사오패스일 가능성이 높을까?

아닐 가능성이 높을까?




소시오패스라면

'모두의 풍요'를 택할까?

'절대자 소망'을 택할까?





3) 디스토피아가 안 일어나는 이유


여기까지 읽었다면

특이점 디스토피아는

단순히 빈부격차의 문제가 아니라

권력 균형의 문제라는 걸 알게 되었을 거야.




뒤집어 말하자면

권력 견제만 제대로 이루어진다면

특이점 디스토피아는 오지 않을 거라는 이야기야.




그리고 그 견제는 잘 이루어질 가능성이 매우 높아.





이 문단의 내용이 바로 완몰가신자가

특이점 유토피아가 디스토피아가 올 확률보다 높다고 한 이유야.

그렇다면 그 견제는 어떻게 일어나고 있을까?





첫째로 연구분업을 통한 견제야.
사실 위의 '기업 특이점' 이야기는

내 논지를 전달하기 위해

과장된 측면이 커.


실제로 대부분의 연구는 산학협력과

정부-기업 형식으로 긴밀히 연결되어 이루어지고 있어.

갈수록 분업화 전문화가 심해지는 마당에

한 기업이 독단적으로 기술적 특이점을 이룬다?

사실상 소설 속 이야기야.




기업이 아는 얘기는 연구진들도 알고 있고

연구진들이 아는 얘기는 학계도 알고 있는 그런식임

구체적인 노하우 (기술적 기밀)만이 베일에 가려져있을 뿐

어느 한 기관에서 만화처럼 매드사이언티스트가 갑툭튀하기 힘들다는 거.





그리고 두번째로는 법적인 규제야.

지나치게 진보적이라 사회 혼란을 야기할 기술들은

세계 각국 정부에서 알아서 열심히 규제하고 있어.

이런 규제들이 단기적으론 특이점의 장애물처럼 보이지만

오히려 장기적으로 볼 땐 '안전한 특이점'을 마련해줄 수 있다는 거야.


만약 어떤 기관이 파급적인 기술을 개발했어도

법적 규제가 마크를 하고 있는 동안에는

다른 기관에서도 균형적으로 그 기술을 따라잡을 시간벌이를 해줄 거라는 거지.

결국 특이점이 도래했을 때도

세계 각 세력의 격차가 크지 않도록

시간을 끌어줄 거라는 거지.



근데 내 생각에

법적규제보단

연구의 분업화가 더 강력한 안전장치로 보이네.



반대로 말해서

이 분업화를 통한 견제가 깨질 징조가 보인다면

디스토피아로서의 특이점이 다가온다는 거 ㅇㅇ

그렇다면 다른 세력들이 절대 잠자코 냅두지 않겠지?





결국 특이점 유토피아는

인간의 이타심에서 오는게 아니라

역설적으로 인간의 이기심 때문에 올거라는 게

나의 생각이야.

무한경쟁, 그리고 무한 견제

안전한 특이점의 핵심이야.




3줄요약

1) 특이점 디스토피아는 권력 균형의 문제이다

2) 특이점 유토피아는 오히려 인간의 이타심이 아니라 이기심으로 인해 이루어진다.

3) 특이점 유토피아를 위해 상호견제를 강화해야함


2편은 인간대 인간 디스토피아가 아니라

인간대 기계 디스토피아에 대한 글이야

많이 기대해줭 ^오^















































































- dc official App