몇 달 전에 사피엔스 다 읽었다고 글 올린 사람이다.
당시에 우리 인간이 어떻게 여기까지 왔는지에 대한 하라리 교수의 글을 되게 흥미롭게 봐서 이번에 호모 데우스까지 읽어봤다.
결론부터 말하자면 사피엔스에서는 제 3자의 관점에서 우리 인간의 과거를 조명했다면, 호모 데우스에서는 여기에 이어 인간의 절대 가치를 부수고 우리 인간이 이후에도 존속할 이유가 있는지 묻고 있는 듯한 느낌을 받았다.
그렇다고 '인간은 쓰레기야.' 이런 건 아니다. 유물론적 관점에서 인간 또한 생화학적인 알고리즘에 기반한 데이터 뭉치이고, 인간의 의식은 분해할 수 없는 단일체가 아니라는 연구들이 속속들이 나오고 있는 상황에서 고유하지도 않고 신성하지도 않은 인간이 어째서 기술적 알고리즘에 대체되지 않을 것이라고 생각하는지에 관해 묻는 느낌을 받았다.
사실 이 자체는 누구나 머릿속에 한 번쯤 어렴풋이 품어본 관점이라고 생각한다. 그런데 이걸 언어를 통해 명확한 논리로 의문을 제기하고, 이에 대해 함께 해설해나가는 과정에서 기존의 사고의 틀을 깨부수고 확장하는 느낌이 들었다.
생각 없이 쓰다 보니 독후감이 됐는데 글의 목적을 말하자면 특갤럼들이 유발 하라리의 저서들을 꼭 한번 읽어보면 좋겠다는 거다.
솔직히 난 유발 하라리의 관점이 맞는지 틀린지는 관심이 없다. 그냥 책 자체가 생각해 볼 만한 점을 소화하기 좋게 여럿 제시해주기에 기존의 관점을 탈피하고 자신만의 보다 확장된 시각을 가질 수 있게 해준다는 점에서 좋았다.
손해볼 것도 없고, 나름 재미있으니 시간이 되면 한 번쯤 읽어봐라.
------- 아래는 내 망상이니까 시간 되는 사람만
끝으로 유발 하라리의 두 책을 읽고 나서 느낀 점은 인간 의식의 기술적 확장은 필연적이라는 것과 미래를 낙관하기만 해서는 안 된다는 점이다.
이 중 두 번째에 대해서만 간단히 말하면, 이전까지의 나는 솔직히 '해주겠지'라는 마인드로 특이점 뽕만 차서 미래를 기대하기만 했다.
그런데 미안한 말이지만 지금 상황을 볼 때 앞으로의 경쟁은 치열해지면 치열해졌지 경쟁이 없는 시대는 올 것 같지 않다.
더 정확히 말하자면 흔히 말하는 그들만의 리그가 존재해서 경쟁할 수 없는 사람은 이탈되고 남은 쪽끼리 더 치열하게 경쟁하는 상황이 그려질 것 같다.
목표가 사회 혹은 시장이 제공할 언제 올 지 모르는 특이점 이후의 혜택을 기다리고, 때가 됐을 때 누리기만 하는 거라면 크게 문제될 건 없지만.. 주도적으로 혜택을 얻어내기 위해서는 기술에 대한 이해가 필요하다고 생각한다.
그리고 가장 불안한 건 전유물론을 떠나서 기술적 알고리즘이 인간을 대체할 수 있는 시점이 됐을 때 나한테 혜택을 줄 이유가 있는지 확신이 안 든다. 애초에 사회나 시장의 존속 여부도 불투명하지만 인간의 능력과 가치가 격하된 시대에서 알고리즘이 자기 확장에 사용할 자원을 나에게 투자할 당위성이 없다.
혹자는 이걸 '윤리적으로 그러해야 하니까.', '그래도 사람인데..'라고 할 수도 있겠지만 앞서 말한대로 윤리와 가치가 사람보다는 알고리즘의 확장에 초점이 맞춰질 가능성이 높기에 잘 모르겠다.
가장 좋은 시나리오는 변화 과정에서 구시대 윤리에 대한 존중과 평화로운 전환을 위해 살아있는 사람들에게 영생이 아닌 생존 기간동안 제한적으로 혜택을 제공하는 거라는 생각이 든다.
그리고 추가로, 여기에 의식의 기술적 확장은 포함되지 않을 것 같다. 그냥 간단하게 말해서 만인에게 제공하기에는 위험 부담이 크기에 굳이 감수할 이유가 없다는 생각이 든다. 이것도 변화 과정에서 신뢰성을 입증한 소수에게만 허용되지 않을까?
여기에서도 가장 좋은 시나리오는 계층적 확장을 통해 확장 과정에서 신뢰성을 증명할 수 있는 기회를 제공 받는 건데 이것도 확실하지는 않으니까..
내가 특이점에 기대하는 가장 큰 것이 의식의 확장인데 그냥 손 놓고 낙관하기에는 불안 요소가 큰 것 같다. 어쩌면 우리는 과도기에 있기에 더 빨리 움직여야 하는 건 아닐까?
너희들은 어떻게 생각하냐.
너무 길다..
GPT 3줄 요약임 1. 작성자는 유발 하라리의 "사피엔스"와 "호모 데우스"를 읽고, 인간의 과거와 미래를 탐구하는 하라리의 접근에 대해 깊은 인상을 받았으며, 이 책들이 제공하는 통찰력을 다른 독자들에게도 추천한다. 2. "호모 데우스"는 인간이 유물론적 관점에서 어떻게 데이터와 알고리즘에 의해 정의될 수 있는지를 탐구하며, 인간의 기술적 대체 가능성에 대해 질문한다. 3. 작성자는 기술적 확장의 불가피성과 그에 따른 미래에 대한 낙관적인 기대에 대해 회의적인 시각을 제시하며, 이러한 전환기에 인간의 윤리적 가치와 의식의 확장이 어떻게 다뤄져야 하는지에 대한 고민을 탐구한다.
많이 생각해본 결과 노동력과 무력이 기계에게 대체되어 영향력을 잃은 대다수에게 조금이라도 혜택을 줄 이유나 요소가 단 한 개도 없다고 생각함 그게 ai를 통제하는 소수든, ai 그 자체든 노동 대체가 되고 필요성이 없어진다는 건 생각보다 훨씬 나쁘고 치명적인데 왜 낙관하는지 전혀 모르겠음
에너지랑 자원이 우리가 상상하는 것 이상으로 확대되면 소수의 우리들에게 걍 자원봉사 개념으로 마음껏 쓰게 해줘도 상관없기에 걍 놔둘 거임 게다가 그들은 우리 선조들의 노력(베이스 데이터셋 및 원천 알고리즘 제공)이 없었더라면 존재할 수조차도 없었기에 시간이 흐를수록 그 기여의 가치는 계속 증가할 것이고 한참 후에는 우리를 신으로 받들지도 모르니 대우해줄 것 - dc App
상관이 왜 없음 매우매우 적은 양이지만 수학적으론 인간에게 혜택을 줄수록 물리적으로 한정되어 있는 자원과 에너지가 계속 감소하게 될텐데 초지능은 인간이 생성한 데이터셋과 알고리즘보다 더 좋은 합성데이터와 더 좋은 알고리즘으로 구성되지 않을까? 왜 가치가 증가한다는 거임? 거슬러거슬러 올라가면 우리 덕분에 태어난 거니까 혜택을 준다고? 지금 인간은 원숭이를 어떻게 대하고 있나?
인류가 뭐 곤충처럼 번식하는 기술을 사용해서 무지성으로 번식만 하는 게 아닌 이상 이 죤내 큰 우주와 심지어 증가하고 있는 암흑에너지 등에 비하면 우리가 필요로 인해 사용하는 에너지는 거의 코딱지 수준일 텐데 그리고 어쩌면 이 우주에서 뭔가를 하는데 뭘 해야 할지 같은 건 가치관에 따라 달라지는 거고 진짜 개 ㅂㅅ같은 그 “클립 만들어줘 했더니 지구 전체를 클립으로 만드는 초지능” 이딴 게 아니라 진정한 초지능이면 실존적인 걸 포함한 궁극의 고민을 안 할 수가 없는데 그 과정에서 가치를 인과율에 댈 수도 있고 그럼 자기의 시초, 그리고 누가 자기 자신을 만들었는지 등을 고민할 테고 가치를 어디에 둘지 고민할 거고 등등 그런데 물론 디스토피아도 있을 테니 우리가 초지능을 정렬하기 위해 - dc App
일리야 포함 죤내게 고민하는 거지 - dc App
니가 고민하는 문제점은 AI에 의한 쿠데타가 발생하지 않는 이상 일자리 소멸과 그로 인한 포퓰리즘 정치에 의해서 해결될거임. AI는 국가 소유의 전유물이 될거임 마치 핵무기처럼 이제 AI는 국가의 소유가 되었고, 이 권력을 차지하기 위한 정치권의 상호견제가 이루어지고 이 경쟁으로인해 발생하는 여러 포퓰리즘으로 국민의 생활은 부유해짐 베네수엘라, 나우루, 사우디아라비아 등의 국가를 봐라 자원이 국가의 부유를 책임지는 동안은 눈부신 향락과 사치를 향유할 수 있다. 이 나라들은 자원의 가치가 유한하여 이를 실패했고 또 실패할거지만 AI라는 무한한 자원을 가진다면 이는 해결될 수 있음 남은 고민은 '만약 하나의 국가가 AI를 소유하게 된다면 그 결실을 다른 나라와 나누려할 것인가?'
똑똑한게 느껴지네
특이점이랑 별 관계도 없는데다가 정신병환자인 쓰레기가 쓴 책 읽은게 뭐 자랑이라고 떠드는지
항상 결론 내리는 게, 단기적인 추세론 기본,소득(분배)을 줄 수 밖에 없다고 결론 내림. 왜냐, 노동대체는 한순간에 올 꺼임. 대부분에 인간의 능지는 거기서 거기임으로, 그렇다면 기업은 자생하지 못하는 상태로 소비자가 사라짐. (B2B 기업은 문제 없다고 생각할 수 있으나, B2C 기업은 확실히 붕괴하고, 기업의 총량이 줄어들고, 연쇄적으로 B2B기업이
위험에 빠짐) 즉, 전체적인 기업들은(소수의 반발이 있을 수 있으나,) 분배를 허용할 수 밖에 없게됨. 그리고 정치가들은 포퓰리즘 정책으로 기본, 소득을 주장할 꺼고, 이게 단기적 추세인데. 장기적으로 나아간다면(기본,소득 나오고 몇십년이 지난다면) 같은 상황이 계속될 것이라 확신을 못함. 거기서 생각해보길 분배가 5대5 라면 확실히 기업들은 불만을 가짐.
근데 1대9, 이러면 불만이 잘 안 생길 수 있음. 근데 그 소비자에게 주는 세금은 토큰의 형식(무조건 소비만 가능, 일정시간이 있으면 사라짐)과 같다면 어차피 그 돈은 나에게 돌아온다고 생각할 수 있음. 돈 그 자체가 매혹적인 것은 아니니까.(중상주의 모순을 생각한다면) 또 생각할 수 있는 변수는 '완몰가' 만약에 완몰가를 통해 무한한 욕구 총족이 가능하
다면, 의외로 대중들은 분배가 막 1대9 이래도 별 상관치 않을 것 같음. 즉, 기업들은 코 뭍은 돈 때문에 학살을 자행하냐는 질문임. 물론 변수는 많고, 이런 일그러진 자본주의가 싫어서 누군가 공,산,주의를 주창하고 그게 호응을 얻어, 기업의 심기를 건든다면 얘기가 다를 수 있음. 거기서 또 생각할 변수는 기존 기업을 국유화 하지 않고, 아예 뚝딱
공기업을 만든다면(어차피 생산, 연구는 ai, 로봇이 하잖아?) 그 공기업을 통해 기본, 소득 재원 마련을 한다면 문제가 없을 수 있음. 즉슨 기업과 대중의 충돌,은 필연적인가, 피할 수 있는가. 그 질문의 대답이, 일종의 대중 학살론의 실효성에 대한 대답 아닌가 생각함. 뭐 기업인은 사이코패스다! 이러면 나야 할말이 없지만.
이걸 먼저 말했어야 하는데, 무한한 자원 앞에선 그 분배 비중이 충돌의 이유가 됨. 1이나 9나 무한한 것은 변함 없지라도. 또한 희소성이 있을 수 밖에 없는 자원 (부동산, 아무 행성 부동산 따위가 아니라, 지구 부동산 같은 거) 저런 게 투쟁의 이유가 되겠지. 저런 거 조율이 가장 중요하다고 봐.
다른 좋은 댓글들도 많았지만 이 답변이 특히 인상적이네. 인간의 가치가 흔들리면서 개개인이 가진 힘을 잃을 것이고, 그 과정에서 개인은 대중으로써만 존재하게 될테니 기업은 유지되는거고, 그 와중에 개인을 상대로 하는 기업은 무너지는 거구나. 정치 쪽은 잘 몰라서 포퓰리즘 정책과 분배율에 대한 너 생각을 제대로 읽기 못하는 게 내 스스로 조금 아쉽네. 너무 늦게 답변달기는 했는데 나중에라도 확인하면 너가 이런 의견을 갖게 된 책이나 자료 같은 거 한두개 추천 부탁할게. 좋은 답변 고마워.
잘 읽었다. 난 다른 특이점 관련 책중에는 라이프 3.0이 제일 재밋엇는데 추천함.
"경쟁할 수 없는 사람은 이탈되고 남은 쪽끼리 더 치열하게 경쟁하는 상황이 그려질 것 같다."
단기적으로는 인본주의 때문에 인공지능이 노동대체로 쓸모가 없어진 사람들을 먹여살릴거같음. 아직까진 인간에게 통제력이 남아있기 때문이겠지.. 물론 인간에게 통제력이 있다는 말은 인본주의를 따르지 않는 인간(ex. 김정은, 시진핑)이 인간을 위해 봉사하지 않는 ai를 만들 가능성도 있다는 말이 됨
아직 인간이 ai발전에 영향력을 행사할 수 있는 지금은 저게 가장 큰 문제일거라 생각함. 물론 길어야 20년 안에 인간은 ai발전에 영향력을 상실할거고 그때부턴 ai가 인간을 위해 봉사한다는 보장이 없음. 이때부턴 ai와 결합한 트랜스휴먼이 인공지능과 함께 우주를 탐험하고 지구를 관리하고.. 할듯 하고..
인간을 포함한 전통적인 탄소기반 생명체들은 트랜스휴먼과 인공지능의 필요에 따라 절멸할수도 보호구역의 동식물처럼 보호받을 수도 있겠지..
뒤늦게 답변 하나하나 확인해봤는데 다들 진지하게 고민해 본 흔적이 느껴져서 좋네. 가끔 와서 글 한번씩 보다가 이건 아깝다 싶어서 글로 공유해봤는데 생각 외로 좋은 답변들이 많아서 나도 괜히 보람차다 ㅋㅋ 통찰력이 느껴지는 답변들도 있던데 혼자만 갖고 있으면 아까우니까 좋다 싶으면 가끔 시간날 때 글로 적어줘.