읽기 귀찮으면 LLM을 통한 세줄요약 ㄱ




글을 써 내려 가기 전에 이 '특이점 유토피아'에 대해서 정의를 하고 가자


초지능 AI를 통해 질병,빈곤,환경,경제,정치,법,종교등 인류의 가장 큰 난제들을 해결 해 주며


생계를 위한 활동이 없어지고 노동에서 해방되어 전례 없는 자유와 창조를 누리며 살아가는


아주 이상적인 미래.




여기 대부분은 40-60년대를 특이점 유토피아 즉


대표적인 희망인 '노동의 자유','부의 재분배','보편적 수당'등을 예측하고 있지만


나는 여기에 상당히 비관적인 입장이고


나는 이 특이점 유토피아가 21세기엔 안온다는게 내 생각임



여기에는 세가지 이유가 있음



1. 아직 특이점이 오지 않았다


2. 빠른 기술의 발전에 대응하는 제도적 지연


3. 기득권의 저항




1. 난 커즈와일이 예측하는 40년대 특이점을 믿는 편임


특이점이 오면 모든게 '딸깍'으로 끝이날까? 이건 절대로 절대로 아니란거임


인간은 기술의 진보를 인지하고 흡수하는데 엄청나게 오랜 시간이 걸린다는게 큰 문제임


40년도에 특이점이 나온다고 해도 최소 30년은 지나야 인류에게 보편적 기술로 인지 될 수 있기에


특이점을 다루고 모두가 유토피아적 세계관을 꿈꾸기 위해서는 최소 70년대 까지는 가야 한다는 입장임




2. 빠른 기술 발전에 대응하는 제도적 지연


법과 사회 그리고 그걸 묶는 제도와 관념은 절대로 빠르게 대응하지 못 함


인간이라는 주체는 하나하나 모두가 공생관계이고 그 관계속에 하나가 어그러 진다면


어떠한 부작용이 나타날지 아무도 모르기에 사회적 합의를 무조건 내놓고 


그 다음 과정으로 이행하는것이 인류 역사의 대표적인 관습임



AI의 발전이 끼치는 사회적 파장에서 나오는 대표적인 요소가 세가지가 있음


대규모 실업, 부의 재분배, 윤리적 딜레마임


이 세가지 모두가 정말로 함부로 다루기 힘든 어마어마하게 큰 합의가 필요한 과정이란게 문제임



대규모 실업->어차피 노동의 자유가 온다면? -> 그 자유를 만들기 위해 0.1퍼센트의 누군가는 일을 해야 한다면?

->닭이 먼저인지 달걀이 먼저인지


부의 재분배 -> 기존의 전통적인 부의 생산자들이 자신의 부가 깎이고 새로운 부가 탄생한다면 

이를 견제할 수 있는 확률은?


새로운 윤리적 딜레마 -> 초지능 AI를 통제하고 책임 그리고 권리를 물어보고 관리할 주체는?

-> 한 국가가 가지는 초지능이 전세계를 통제할 때 그것을 견제할 수 있는 수단은?




3. 기득권의 저항


이게 솔직히 가장 큰 문제라는게 내 생각임 AI는 탄생부터 지금 사회 전반에 앉아있는


기득권들 '정책,법,경제'등의 목에 칼을 들이대고 시작했다고 봐도 무방함.


태어날 때부터 반역의 상을 가지고 태어난 아기임



소설?음악?그림? 이건 부차적인 문제임 이 분야는 AI에 거부감이 있을 일반 대중들에게


쉽게 다가기 위한 그냥 수단일 뿐임.



그렇다면 이 저항에는 무엇이 있을까?



AI가 발전해서 사회적 합의를 이뤄야 할 상황이 온다면 이것을


공식적인 법률화와 관습화를 시키기 위한 행동이 수반되어야 함은 윗 글에서 읽어서 알꺼임


여기에 '반AI' 표를 먹기 위해 이를 대변해 서 있는 정치가와 그것이 이득인 기득권이 있다면


시스템 개편과 변화를 위한 정책 과정을 상당히 복잡하게 만들고 훼방을 놓을 수가 있음



이러한 발전의 압력을 견디지 못 한다면 그들이 할 행위는 매우 간단함


바로 편승과 왜곡임


AI의 발전을 막지 못 한다면 국가를 통제하면 되는것임


이 가장 기초적인 방법은 기술 규제임.



여러가지 관리와 통제를 위해 존제하는 기관에 영향력을 행사해


자신들에게 유리한 규제를 만드는 왜곡과


필요한 규제를 막는 편승임



또 가장 쉬운 수단이 두개가 더 있음. 법률과 안보임


법으로는 어떻게 막을까? 이거 진짜 존나 쉬움 지적재산권과 그 책임소재를 찾으며


발전을 막는 방법과 안보논리를 사용해 국가가 그 접근을 강하게 통제한다던가  말이지




돈으로 막는 방법도 있음


로비 활동 강화로 자신의 입맛에 맞는 입법을 밀어 붙인다거나


여론 조작과 선동으로 공포심리를 주입해 자신의 입맛에 맞게 조작을 한다거나 말이지




이념적 문제도 존제함


'통제'와 '일자리 상실'등을 이유로 사회적 저항감이 상승한다거나


노동과 경쟁을 인간의 발전에 대입하여 근본적인 사회 변화를 막는다거나


AI 개발자는 핵폭탄을 들고 있는 일반인 이라는 이미지를 씌우며


이들을 통제하지 못하는 괴물로 만들어 불신을 만들어 버릴 수도 있고


AI를 통해 이득을 보는 이들을 악마로 표현하며 갈라치기를 할 수도 있음



정리하자면 여기서 말하는 특이점 유토피아가 오려면


저러한 모든것들을 다 뚫어야 함




단순히 기술의 발전이 특이점에 도달하여 미친듯이 기술과 혁신이 쏟아진다고 해도


그건 사상누각임. 이것을 보완 해 주고 위로 올라가게 도와주는것은


사회,정치,윤리,경제적 성숙이 다 들어가고 



인간대 인간, 가족대 가족,도시대 도시,국가대 국가


이 모든 미시적인 시선과 거시적인 시선에서 지구적 합의가 필요하기 때문에


나는 이 특이점 유토피아가 21세기엔 안온다는게 내 생각임




그래서 이 특이점 유토피아가 오기 위한 과정을 몇가지 단계로 압축을 해 봤음




1단계 - 기술의 가속화와 사회적 논의 심화


여러가지 특정 영역(대충 니들도 짐작하는)에서 성능이 급격하게 상승하고


거기에 피해를 본 사람들의 여론이 생성되며 


일자리 문제와 편향성 통제 불능을 핵심으로 초기 기술 규제가 시작 될거임



2단계 - AGI의 등장


인간과 유사한 '전문가' AI가 등장하여 사회 모든 분야에 광범위한 작업을 수행하는 시점이 온다면


특정 직업군에서 야기된 문제가 국가 전체로 불이 붙을 것임.


여기서 부턴 AI의 안전성과 국가 안보를 들먹이며 가장 큰 불이 붙을거임



3단계 - 초지능의 등장


초지능이 등장하며 기술적 특이점에 돌입을 한다면 이 때 부터는


질병,기후,환경,에너지등의 문제는 쉽게 해결 될거지만 



가장 큰 문제는 국가간의 갈등 심화임


이러한 미친듯이 강력한 기술의 통제권과 접근권을 둘러싼 국가,집단가의 갈등의 심화는


그냥 정해진 미래고 이제는 무너지기 일보직전인 전통적 기득권의 마지막 저항이 절정에 오를것임




4단계 - 보편적 기본@소득


이러한 합의가 다 통과가 된다면 이제는 경제적 합의가 들어가야 함


지난 수천년간 인류를 지배하던 '노동=소득'이라는 매우 전통적인 모델이 무너지는 시기임


이러한 관습에 대한 시스템적 합의가 도출되는 과정이 매우 지리멸렬하고 지난하게 진행 될 것임



수천년동안 지속 돼 온 이 모든게 '딸깍'으로 해결 될거란 것은 정말로 낙관적인 시선임




5단계- 특이점 유토피아


사회 문화적 적응의 과정은 저러한 시기를 통과 해 오며 적응이 됐을 것이고


보편적 기본@소득을 통해 의미와 목적을 찾는 인문학적 발전이 상승 할 것이며



AI와 인류의 합의를 통해 가치가 '정렬'이 성공하여 지속적인 발전과


인류의 기본적인 생존이 보장되는 사회





그래도 암정복 같은 여러가지 개인에게 큰 절망을 주는 질병은 빠른 시일 내에


해결 될거 같긴 함 그로인해서 인류 전체의 평균 수명은 상승 할 것이니



그러니깐 절대로 죽지마