예나 지금이나 성공적으로 권력을 창출하고 유지하는 정권의 제 1조건은
한정된 자원을 “정권유지에 도움이 되는” 영양가 있는 지지층들에게 집중적으로 몰아주는 것임
개개인이 고도의 생산성을 가진 산업화 선진국이 국민 전반의 교육과 후생에 힘쓰는 반면
땅파서 먹고 사는 1차산업 후진국들이 군부와 극소수 기술관료를 뺀 국민들을 개돼지 사육하는 것만 봐도
“권력의 유지에 도움이 되는 존재인가”에 따라 삶의 명암이 극단적으로 갈린다는 걸 알 수 있음
그런데 모든 면에서 인간의 상위호환인 강인공지능을 비롯한 특이점의 기술과 플랫폼은
석유같은 자원보다도 더 극단적으로 거의 모든 인간을 (권력유지의 측면에서) 쓸모없게 만들 가능성이 높지
내가 산유국 왕족이라도 어쨌든 사회를 유지하려면 인간이 필요하니까 국민들에게 콩고물 정도는 던져주지만
손가락 하나만 까딱하면 허공에서 나노머신이 재화를 생산하는 초기술을 독점하는 관점에서 본다면
내 가족와 친구를 뺀 모든 인류를 굶어 뒤지건 말건 소말리아급 생지옥에 몰아넣어도 아무 문제가 없음
이렇게 볼때
“특이점이 오면 흙수저라도 방구석에서 기본소득 먹는 개백수는 될 수 있겠지” 도 지나치게 낙관적인 생각이라고 봄
모든 자원의 배분은 그 비율을 결정할 수 있는 권력층의 이득에 따라 이루어지고
그 이득에 기여하지 않는다면 쌀 한톨도 받을 수 있으리라 기대할 근거가 없음
“아니 그래도 그지경이 되면 몰표로 정권이 뒤집히거나 민중봉기라도 일어나지 않겠음?” 이라고 생각할 수 있지만
민주주의 역시 어디까지나 산업사회의 중산층이 권력의 유지에 크게 기여한다는 조건 하에 유지되는 것이고
성공적 혁명은 거의 언제나 무력을 가진 엘리트들 간의 세대교체일 뿐 양민들이 군대를 떼려잡는 게 아니라는 걸 생각하면
평범한 흙수저인 내가 특이점이 온다고 한들 그 과실을 맛볼 날이 올지
나는 회의감이 듦
말을 똑바로 해야 되는게 특이점은 초지능이 오는 건데 초지능이 오면 그 후는 예측 할 수 없음. 초지능은 그 어떤 계층에 있는 인간이든 컨트롤 못함. 애초에 인간과 초지능을 비교하면 개미, 인간보다 더 큰 차이가 나게 될 건데 개미가 인간 컨트롤 한다는 소리와 다를 바가 없음. 솔직히 강인공지능 또한 성능이 엄청나게 올라가면 인간이 컨트롤 할 수 있는 한계가 존재한다고 보는 입장인데 니가 말한 가능성보다 터미네이터 스토리가 가능성 더 높을듯
이게 마따 - dc App
그 경우에도 결론은 변하지 않는다고 보는데... 인공지능을 부리는 지배층이든, 독립적 인공지능이든 간에 한정된 자원을 두고 경쟁하는 플레이어들인 것은 마찬가지. 그리고 여기서 “경쟁에 도움이 안 되는 평범한 인간의 복리후생을 챙기는 플레이어” vs “모든 자원을 자신의 생존과 승리에 투자하는 플레이어” 라면 후자가 살아남아서 모든 자원을 독식하게 됨. 평범한 인간은 특이점 이후의 세계를 장악하는 경쟁에 유의미한 기여를 할 수 없기 때문에 주장할 수 있는 지분도 없다는 것이 근본적 문제.
아니 애초에 네 생각은 인간의 지능과 사고에서 나온 결론이고 초지능은 인간의 지능을 한참 초월한 존재인데 왜 같은 결론을 낸다고 생각하는지 모르겠네. 개미가 인간의 사고와 판단을 이해 할 수 있다고 생각함? 인간이 개미와 같은 사고와 결론을 내림? 인간과 초지능은 그보다 더 많은 차이가 날 거임
초인공지능이 구체적으로 어떤 형태일지 우리가 예측할 수 없음 (O) 따라서 초인공지능에 대한 어떤 예측도 무의미함 (X)
초인공지능이 열역학 제2법칙을 초월한 존재가 아닌 이상 한정된 자원을 두고 생존경쟁을 벌여야 한다는 것은 마찬가지임. 이건 우주로 무대를 확장해도 변하지 않음. 그리고 경쟁에서 승리하려면 자원을 최대한 효율적으로 사용해야 하는데, 평범한 인간들의 복리후생에 힘쓰는 것이 초인공지능 간의 경쟁에 별 도움이 되지 않을 것이라는 가정은 충분히 합리적 영역.
초인공지능이면 초월할수도 있지. 열역학 제 2법칙은 엄연히 말하면 인간의 정의한거임. 네가 말한 것또한 인간의 정의한 법칙에 사고에 초인공지능을 한정 시켜놓고 있음. 개미가 법칙을 만들었다고? 어쩌라고
네 모든 예측과 가정은 결국 초인공지능을 현재 인간이 만든 정의와 법칙에 한정 시켜놓고 그 안에 맞춰서 이야기 하고 있음. 마치 그 '최후의 질문'이라는 소설의 내용처럼. 결국 그것도 마지막에는 박살내긴 하지만
그러니까 종족 변경해야함. 레커 말대로 지능확장을 하거나 마인드 압로딩으로 초지능에 융화되거나. 하여튼 호모 사피엔스로 남으면 도태되는 것 맞음
글쎄다. 뭔가 제도적 안전장치가 만들어질 것 같은데.
기술의 무료화로 엄청난 혜택을 볼거같은데 17세기랑 지금이랑 편의가 다르듯이
난 딱 두가지 미래 중 하나일 거라고 봄. 1. 모든 인간은 소멸한다. 2. 모든 인간이 서로에게 소멸당하지 않기 위해서 서로에게 우호적으로 대하면서도 서로를 실시간 감시하는 체제로 간다.(하이브 마인드)