인류는 너무 많은 문제와 질문에 직면해 있어 무엇에 초점을 맞춰야 하는지 알기가 정말 어렵습니다. 

그래서 앞으로 20분 동안 우리가 직면한 다양한 문제에 집중할 수 있도록 하고 싶습니다. 

우리 종족의 세 가지 실존적 도전

이 세 가지 실존적 도전은 핵전쟁, 생태계 붕괴 그리고 기술 파괴입니다.

우리는 그것들에 집중해야합니다.

현재 핵전쟁과 생태계 붕괴는 이미 친숙한 위협입니다.

그래서 기술 파괴라는 덜 친숙한 위협을 설명하는 데 시간을 할애하겠습니다.

다보스에서 우리는 기술의 엄청난 약속에 대해 너무 많이 듣고 이러한 약속은 확실히 현실이지만 

그러나 기술은 또한 데이터 식민주의와 디지털 독재의 부상으로 인간 사회와 인간 삶의 의미 자체를 파괴할 수 있습니다.

먼저 우리는 사회적, 경제적 차원에서 격변에 직면할 수 있습니다. 

자동화는 곧 수백만 개의 일자리를 없애고 새로운 일자리는 확실히 창출되지만 사람들이 필요한 새로운 기술을 충분히 빨리 배울 수 있는지 여부는 불분명합니다.

당신이 50세의 트럭 운전사이고 자율 주행 차량으로 직장을 잃었다고 가정해 봅시다. 이제 소프트웨어를 설계하거나 요가를 가르치는 새로운 직업이 생겼습니다. 

그런데 50세의 트럭 운전사가 어떻게 소프트웨어 엔지니어나 요가 강사로 변신합니까. 그리고 사람들은 그것을 한 번만이 아니라 평생 동안 계속 반복해야 할 것입니다.

자동화 혁명은 고용 시장이 새로운 균형으로 정착하는 단일 분수령이 아닐 것이기 때문입니다. 

오히려 AI가 잠재력을 충분히 발휘하지 못하기 때문에 그 어느 때보다 더 큰 혼란의 연속이 될 것입니다. 

모든 직업이 사라질 것입니다. 새로운 직업이 나타날 것이지만 새로운 직업도 빠르게 변하고 사라질 것입니다.

과거에 인간은 착취에 맞서 투쟁 했습니다. 

21세기에 들어서 가장 큰 투쟁은 존재감에 대한 투쟁이 될 것입니다.

그리고 투쟁에 실패해서 쓸모없는 사람이 되는 것은 착취되는 것보다 나쁠것입니다.

물론 친구나 가족의 관점에서 볼 때 쓸모없는 사람들이 아니라 경제와 정치 시스템의 관점에서 볼 때 쓸모없는 사람들 입니다.

그리고 이 쓸모없는 계급은 점점 더 커지는 격차로 분리될 것입니다.

AI 혁명은 계급 간뿐만 아니라 국가 간에도 전례 없는 불평등을 야기할 수 있습니다. 19세기 영국과 일본과 같은 몇몇 국가는 먼저 산업화하고 계속해서 세계 대부분을 정복하고 착취했습니다. 

조심하지 않으면 AI로 인해 21세기에도 똑같은 일이 일어날 것입니다.

우리는 이미 미국과 중국의 AI 군비 경쟁의 한가운데에 있고 대부분의 국가는 훨씬 뒤쳐져 있습니다.

우리가 AI의 이점과 힘을 모든 인간에게 분배하기 위한 조치를 취하지 않는 한 

AI는 몇몇 첨단 기술 허브에서 엄청난 부를 창출할 가능성이 높으며 다른 국가는 파산하거나 모두 착취되는 데이터 식민지가 될 것입니다. 

현재 우리는 인간에게 반항하는 로봇의 공상 과학 시나리오에 대해 이야기하고 있습니다. 

우리는 훨씬 더 원시적인 AI에 대해 이야기하고 있는데, 그럼에도 불구하고 세계 균형을 교란시키기에 충분합니다. 

멕시코보다 캘리포니아에서 직물이나 자동차를 생산하는 것이 더 저렴해지면 개발 도상국에 어떤 일이 일어날지 생각해 보십시오. 

그리고 누군가 샌프란시스코나 베이징에 있는 모든 정치인과 판사와 언론인의 개인 이력과 의료 데이터와 성적인 탈선과 정신적 약점과 부패한 거래를 알고 있다면 20년 후에 당신 나라의 정치는 어떻게 될까요? 

그곳은 여전히 독립국가 일까요 아니면 식민지가 될까요?

데이터가 충분하면 국가를 제어하기 위해 군인을 보낼 필요가 없습니다. 

불평등과 함께 우리가 직면한 또 다른 주요 위험은 모든 사람을 항상 감시할 디지털 독재의 부상입니다.

이 위험은 간단한 방정식으로 기술될 수 있습니다.

B×C×D=R

이는 생물학적 지식에 컴퓨팅 파워를 곱하고 데이터를 곱한 값이 인간을 해킹할 수 있는 능력과 같다는 의미입니다. 

생물학을 충분히 알고 컴퓨팅 능력과 데이터가 충분하다면 

당신은 내 몸과 뇌를 해킹하고 내가 나 자신을 이해하는 것보다 나를 더 잘 이해할 수 있습니다. 

내 성격 유형, 내 정치적 견해, 내 성적 취향, 내 정신적 약점, 내 가장 깊은 두려움과 희망을 알 수 있습니다.

당신은 나에 대해 내가 아는 것보다 나에 대해 더 많이 알고 있으며 나뿐만 아니라 모든 사람에게 그렇게 할 수 있습니다. 우리 자신보다 우리를 더 잘 이해하는 시스템은 우리의 감정과 결정을 예측할 수 있고 감정과 결정을 조작할 수 있고 궁극적으로 다음을 위한 결정을 내릴 수 있습니다. 

과거에 많은 폭군과 정부가 그것을 하기를 원했지만 아무도 생물학을 충분히 이해하지 못했고 아무도 수백만 명의 사람들을 해킹할 만큼 충분한 데이터 컴퓨팅 능력을 갖고 있지 않았습니다. 게슈타포도 KGB도 할 수 없었습니다.

그러나 곧 일부 기업과 정부는 모든 사람들을 체계적으로 해킹할 수 있을 것입니다.

우리 인간은 더 이상 신비한 영혼이 아니라는 생각에 익숙해져야 합니다.

물론 훨씬 더 나은 의료 서비스를 제공하는 것과 같은 좋은 목적으로 사용될 수 있습니다. 

그러나 이 권력이 21세기 스탈린의 손에 넘어가면 그 결과는 인류 역사상 최악의 전체주의 정권이 될 것이며 이미 많은 지원자들이 있습니다.

20년 후의 북한을 상상해 보십시오. 모든사람들이 하루 24시간 혈압, 심박수, 두뇌활동을 모니터링하는 생체인식 팔찌를 착용해야 합니다.

당신은 위대한 지도자의 라디오 연설을 듣고 손뼉을 치고 미소를 지을 수 있지만 만약 화가 나면 당신은 내일 아침 수용소에 있게 될 것입니다.

그리고 우리가 그러한 총체적 감시 체제의 출현을 허용한다면 

부자와 권력자들도 안전할 것이라고 생각하지 마십시오.

소련은 다른 누구보다 공산주의 엘리트를 감시했습니다.

미래의 총체적 감시 체제도 마찬가지일 것입니다.

계층 구조에서 높을수록 더 자세히 감시됩니다.

당신의 CEO나 사장이 당신이 그들에 대해 어떻게 생각하는지 알기를 원하십니까?

따라서 엘리트를 포함한 모든 인간의 이익을 위해 그러한 디지털 독재의 부상을 방지해야합니다. 

인간이 점점 더 많은 결정을 내리기 위해 AI에 의존할 것이기 때문에 권위가 인간에서 알고리즘으로 옮겨갈 것입니다.

그리고 이것은 이미 오늘날 일어나고 있습니다. 수십억 명의 사람들에게 Facebook 알고리즘이 새로운 것이 무엇인지 알려줍니다. Google 알고리즘은 우리에게 진실이 무엇인지 알려줍니다. 넷플릭스는 무엇을 봐야할지 알려줍니다. 아마존 알리바바 알고리즘은 무엇을 사야 하는지 알려줍니다..

멀지 않은 미래에 유사한 알고리즘이 우리에게 어디에서 일하고 누구와 결혼할지 알려주고 또한 우리에게 대출을 제공할지 여부와 중앙 은행이 이자율을 인상해야 하는지 여부를 결정합니다. 

그리고 만약 당신이 왜 대출이 안되고 은행이 금리를 인상하지 않냐고 묻는다면 답은 항상 같습니다.

컴퓨터는 알려주지 않을겁니다. 왜냐하면 인간의 지능은 컴퓨팅파워와 데이터에 비해 많이 부족하기 때문입니다.

인간은 단순히 컴퓨터의 결정을 이해할 수 없을 것이므로 자유 국가라 할지라도 인간은 우리 자신의 삶에 대한 통제력을 상실하고 공공 정책을 이해하는 능력도 상실할 가능성이 있습니다. 

또한 현재 얼마나 많은 사람들이 금융 시스템에 대해 완벽히 이해하고 있을까요? 아마 1%

매우 관대하게 20년 후 금융 시스템을 이해할 수 있는 사람의 수는 정확히 0이 될 것입니다. 

대부분의 결정이 알고리즘에 의해 내려질 때 인간의 삶의 의미는 무엇입니까? 우리는 그러한 존재를 이해할 철학적 모델조차 가지고 있지 않습니다.

보통의 경우 철학자와 정치인 사이는 철학자가 많은 아이디어가 있고 정치인들은 이러한 아이디어를 구현할 수단이 부족하다고 참을성 있게 설명했습니다. 

지금 우리는 반대 상황에 있습니다.

우리는 철학적 파산에 직면해 있습니다.

정보 기술과 생명 공학의 혁명은 이제 정치인과 사업가에게 천국이나 지옥을 만들 수 있는 수단을 제공하지만 철학자는 새 천국과 새 지옥이 어떤 모습일지 개념화하는 데 어려움을 겪고 있으며 이는 매우 위험한 상황입니다. 

우리가 새 천국을 충분히 빨리 개념화하지 못하면 순진한 유토피아에 쉽게 오도될 수 있으며 우리가 새 지옥을 개념화하지 못하면 빠져나갈 길이 없는 덫에 걸릴 수 있습니다. 

마지막으로 기술은 정치와 철학의 경제뿐만 아니라 생물학도 혼란에 빠뜨릴 수 있습니다. 

앞으로 수십 년 동안 인공 지능과 생명 공학은 자연 선택에 의해 형성된 40억 년의 유기적 생명체 이후에 생명을 재설계하고 완전히 새로운 생명체를 창조할 수 있는 신과 같은 능력을 제공할 것입니다. 

우리의 지적 설계는 생명 진화의 새로운 추진력이 될 것이며 창조의 힘을 사용할 때 우리는 우주 스케일의 실수를 할 수 있습니다.

사람들은 산업 기술을 사용하여 매우 다른 종류의 사회를 건설했습니다. 

파시스트 독재, 공산주의, 자유민주주의 21세기에도 똑같은 일이 벌어질겁니다.

인공 지능과 생명 공학은 확실히 세상을 변화시킬 것이지만 우리는 그것들을 사용하여 매우 다른 종류의 사회를 만들 수 있으며 내가 언급한 가능성 중 일부가 두렵다면 당신은 아직 그것에 대해 행동 할 수 있습니다.

그러나 효과적으로 무언가를 하려면 국제적 협력이 필요합니다.  우리가 직면한 세 가지 실존적 도전과제는 글로벌 솔루션을 요구하는 글로벌 문제입니다. 

먼저 핵전쟁을 막거나 생태학적 붕괴를 막을 수 있는 국가는 없으며 AI와 생명공학을 스스로 규제할 수 있는 국가도 없다는 점을 지도자에게 상기시켜야 합니다. 

거의 모든 국가에서 우리는 킬러 로봇을 개발하거나 인간 아기를 유전적으로 조작하는 것을 원하지 않지만 경쟁자들이 그렇게 하지 않는다는 것을 믿을 수는 없다고 말할 것입니다. 

AI나 생명공학과 같은 분야에서 그러한 군비 경쟁이 발전하도록 허용한다면 누가 군비 경쟁에서 이기는지는 중요하지 않습니다. 패자는 인류가 될 것입니다. 

불행히도 그 어느 때보다 글로벌 협력이 필요한 시점에 세계에서 가장 강력한 지도자와 국가 중 일부가 미국과 같은 글로벌 리더를 의도적으로 약화시키고 있습니다. 대통령은 우리에게 민족주의와 글로벌리즘 사이에는 본질적인 모순이 있으며 우리는 민족주의를 선택하고 글로벌리즘를 거부해야 한다고 말하지만 이것은 위험한 실수입니다. 

민족주의와 글로벌리즘 사이에는 모순이 없습니다.

왜냐하면 민족주의는 외국인을 미워하는 것이 아닙니다. 민족주의는 동포를 사랑하는 것이고 21세기 동포의 안전과 미래를 지키기 위해서는 외국인과 협력해야 하므로 따라서 21세기에는 민족주의자는 세계주의자여야 합니다. 

현재 글로벌리즘은 모든 국가 전통을 포기하거나 무제한 이민에 국경을 개방하는 것을 의미합니다.

그러나 글로벌리즘은 글로벌 규칙에대한 약속을 의미합니다.

규칙은 각 국가의 고유성을 부정하지 않고 국가 간의 관계만을 규제하는 것입니다.

그리고 좋은 모델은 월드컵입니다.

월드컵은 국가 간의 경쟁이며 사람들은 종종 국가 대표팀에 대한 맹렬한 충성심을 보여 주지만 동시에 월드컵은 세계적인 화합의 놀라운 표시이기도합니다. 

국가가 축구뿐만 아니라 생태학적 붕괴를 방지하는 방법에 대한 글로벌 규칙에 대해 합의할 수 있기를 바랍니다.

위험한 기술을 규제하는 방법, 글로벌 불평등을 줄이는 방법, 이것은 축구보다 훨신 더 어려울 것이지만 불가능하지 않습니다.

우리는 이미 불가능을 극복했습니다. 우리는 이미 우리 인간이 역사를 통해 살았던 폭력적인 정글을 탈출했습니다.

인간은 수천년 동안 정글의 법칙아래 만연한 전쟁의 시기를 살았습니다.

정글의 법칙에 따르면 인접 국가 2곳마다 매년 서로 전쟁을 벌일 가능성이 있는 시나리오가 있습니다. 

이 법칙에서 평화는 전쟁의 일시적인 부재를 의미했습니다. 

수천 년 동안 사람들은 이 법칙을 피할 수 없다고 생각했지만 지난 수십 년 동안 인류는 법을 어기고 정글을 탈출하기 위해 불가능한 일을 해냈습니다. 

우리는 많은 불완전함에도 불구하고 인류 역사상 가장 번영하고 가장 평화로운 시대를 창조한 규칙 기반의 자유주의적 세계 질서를 구축했습니다. 

세계의 일부 지역에는 여전히 전쟁이 있습니다. 저는 중동에서 왔기 때문에 이것을 완벽하게 알고 있습니다. 

그러나 그것이 전체적인 그림을 보는 우리의 눈을 가릴수는 없습니다.

우리는 지금 전쟁이 자살보다 더 적은 수의 사람을 죽이고 화약이 설탕보다 훨씬 덜 위험한 세상에 살고 있습니다. 

러시아와 같은 몇 가지 주목할만한 예외를 제외하고 대부분의 국가는 이웃을 정복하고 합병하는 것에 대한 환상조차 갖지 않습니다. 이것이 대부분의 국가가 교육 및 의료에 훨씬 더 많은 돈을 지출하면서 국방에 GDP의 약 2%를 지출할 여유가 있는 이유입니다. 

이 세상은 정글이 아닙니다.

불행히도 우리는 이 멋진 상황에 너무 익숙해져서 그것을 당연하게 여기고 따라서 극도로 부주의해지고 있습니다. 

취약한 글로벌 질서를 강화하기 위해 우리가 할 수 있는 모든 일을 하는 대신 무시하고 고의적으로 약화시키기까지 합니다. 

세계 질서는 이제 모두가 살고 아무도 수리하지 않는 집과 같습니다. 

몇 년 더 버틸 수 있지만 이대로 계속하면 무너지고 만연한 전쟁의 정글로 되돌아가게 될 것입니다. 

우리는 그것이 어떤 것인지 잊었지만 역사가인 나를 믿으십시오. 당신은 거기로 돌아가고 싶어하지 않을겁니다. 당신이 상상한 것보다 훨씬 더 나쁩니다. 

네, 우리 종은 그 정글에서 진화했고 수천 년 동안 그곳에서 살았고 심지어 번영했습니다. 그러나 우리가 21세기의 강력한 신기술을 가지고 그곳으로 지금 돌아간다면 우리 종은 아마도 스스로 전멸할 것입니다 

물론 우리가 사라져도 세상의 종말은 아닐겁니다.

무언가 살아남아서, 아마 쥐가 인수하여 문명을 재건할 것입니다 

그러면 쥐가 우리의 실수로부터 배울 것입니다.

우리가 모든 지도자를 의지할 수 있게 되기를 희망합니다.

감사합니다.