[📪정보] 튜링 테스트, 확장된 두뇌, 인공지능 윤리에 관한 레이 커즈와일의 인터뷰

[익명(222.116)]

"인공지능은 인간을 대체하는 것이 아닙니다. 인간을 더 향상시키는 것이죠. 이미 시작된 일입니다."

발명가이자 작가인 레이 커즈와일은 현재 구글에서 G메일팀과 이메일 자동응답 기술을 개발하는 그룹을 이끌고 있으며 WIRED 편집장인 니컬러스 탐슨과 미국외교협회에서 만나 이야기를 나누었다. 다음 내용은 대화 내용을 편집한 것이다.

니컬러스 탐슨: 당신의 사업과 저서의 근간을 이루는 법칙인 수확가속의 법칙에 관한 설명부터 시작해볼까요.

레이 커즈와일: 인간 게놈 프로젝트가 절반쯤 진행되었을 무렵까지 수집한 게놈은 전체의 단 1퍼센트였고 7년이나 소요되었습니다. 그래서 비평가들은 "내가 뭐랬냐. 안될거라고 했지. 7년동안 1퍼센트밖에 진행되지 않았으니 앞으로 700년이나 걸릴거다."라고 말했습니다. 전 이렇게 대꾸했죠. "1퍼센트나 해냈다고? 거의 다 해냈군." 1퍼센트를 2배씩 늘려봅시다. 7번이면 100퍼센트가 됩니다. 실제로도 1년마다 두배씩 늘어났습니다. 인간게놈 프로젝트는 7년후에 완료되었고 그 이후로도 그 추세는 계속되어 최초에 1조원이나 들어가던 비용은 이제는 백만원으로 줄어들었습니다.

그래서 동일한 성능, 커뮤니케이션, 유전자 시퀀싱, 뇌 데이터를 1년전보다 반값으로 얻을 수 있습니다. 그래서 1,2년만에 두배씩 좋아진 스마트폰을 반값에 살 수 있게 된 것이죠. 이렇게 가격대 성능비가 올라간 덕분에 같은 값으로 더 나은 것을 사거나 같은 성능의 것을 더 싼값에 살 수 있게 됩니다. 아프리카의 어느 여자애가 8만원을 주고 스마트폰을 샀을 때 그것의 가치는 8만원에 불과하지만 1960년대에 그정도 성능을 내려면 1000조, 1980년대라면 1조원이 필요합니다. 제가 10대일 때는 몇년동안 돈을 모아서 백과사전을 샀습니다. 지금은 그것보다 더 나은 걸 무료 앱으로 볼 수 있습니다. 무료로 정보를 제공하는 앱들의 가치는 수십억원에 달합니다만 공짜로 구할 수 있으니 우린 그 가치를 제대로 알지 못하는 것입니다.

모든 것이 바뀔 것입니다. 옷도 3D 프린터로 출력할 수 있을 것입니다. 지금은 과도기입니다만 2020년대 초가 되면 가능할 것입니다. 멋진 오픈소스 디자인을 공짜로 다운받을 수 있을 것입니다. 패션산업은 없어지지 않을 것입니다. 음악, 영화, 책과 마찬가지로 저작권이 있는 제품들과 무료 오픈소스 제품들이 공존할 것입니다. 수경재배와 배양 고기를 생산하는 공장식 농업을 통해 값싸게 음식을 만들어 낼 것입니다. 이런식으로 생산된 햄버거도 이미 나왔습니다. 수억원이 들만큼 비싸지만 품질은 좋았습니다. 비싼 이유는 연구 비용 때문입니다. 이러한 다양한 자원들은 정보기술에 의존할 것입니다. 아시아에서는 3d프린터로 생산해낸 작은 레고 스타일 모듈로 며칠만에 3층짜리 사무실을 만들어보였습니다. 2020년대에는 건설도 그런식으로 하게 될 것입니다. 3d프린터는 우리한테 필요한 물리적인 물건들을 출력해낼 것입니다.

니컬러스 탐슨: 지능에 관해서 얘기보죠. 제 주머니에 있는 전화기는 저보다 수학을 잘합니다. 저보다 바둑도 잘하죠. 저보다 잘하는게 너무나 많습니다. 언제쯤이면 저보다 대화도 잘 하게 될까요? 언제쯤이면 저 대신 이 전화기가 인터뷰를 대신 진행할지 알고 싶습니다.

레이 커즈와일: 대화를 할 수 있는 기술은 가지고 있습니다. 알다시피 우리 팀은 구글에서 스마트 답변을 만들어냈습니다. 그래서 수백만통의 이메일을 쓰고 있죠. 하지만 당신의 질문이 말하는 것은 튜링완전 질문에 해당합니다. 튜링 테스트는 인간의 모든 지성을 시험하기에는 적절한 테스트죠. 그걸 통과할수 있는 간단한 자연어처리 속임수는 없습니다. 실제 사람이 구분할 수 없을 정도여야 인공지능이 인간의 지성을 갖추었다고 할 수 있습니다. 제 핵심 예측이 그것입니다. 전 줄곧 그것이 2029년이 될 것이라고 말해왔습니다. 1989년 '지적 기계의 시대'에서는 2020년대 초부터 2030년대 말까지라고 예측했습니다. 1999년 '영적 기계의 시대'에서는 2029년이라고 예측했죠. 스탠포드 대학 인공지능과의 학회에서 인공지능 전문가들이 예측한 시기는 수백년 뒤였습니다. 전문가들 중 25퍼센트는 그런 일이 일어나지 않을 것이라고 생각했습니다. 제 생각은 전혀 바뀌지 않았지만 저와 전문가들의 견해차이는 점점 좁혀지고 있습니다.

2006년 다트머스에서 AI@50이라고 불린 학회가 열렸습니다. 거기서 나온 결론은 50년이었습니다. 그당시 저는 23년을 주장했죠. 최근 아실로마 인공지능 윤리 학회에서 나온 결론은 20년에서 30년 사이였고 그때 저는 13년을 주장했습니다. 전 여전히 낙관적입니다만 지나치게 낙관적인 것도 아닙니다. 오히려 제가 보수적이라고 생각하는 사람들은 점점 더 늘고 있습니다.아까 수확가속의 법칙에 관한 질문에서 말하지 않은 것이 있는데 그것은 소프트웨어입니다. 하드웨어의 개선속도는 기하급수적인데 소프트웨어도 마찬가지입니다. 전 점점 더 확신이 생기고 인공지능 커뮤니티도 이정표가 멀지 않았다고 느낀다고 믿고 있습니다.

이 기술과 인공지능이 결합하여 우리를 더 똑똑하게 만들 것입니다. 이미 시작됐습니다. 이런 전자제품들은 확장된 두뇌이며 사람들도 그렇게 생각합니다. 몇년 전만 하더라도 사람들은 스마트폰을 그런식으로 쓰지 않았습니다. 스마트폰은 문자그대로 우리의 신체와 뇌로 들어올 것입니다만 사람들마다 차이는 있을 것입니다. 하지만 우리 몸 밖에 있다 하더라도 확장된 두뇌인 것은 마찬가지이며 우리를 더욱 똑똑하고 즐겁게 만들어줄 것입니다.

니컬러스 탐슨: 정책입안자들이 기술발전에 대해 어떻게 생각해야 하는지, 무엇을 해야 하는지, 그리고 무엇을 하지 말아야 하는지 설명해주십시오.

레이 커즈와일: 최근의 많은 논의들 처럼 기술을 안전하게 추구하는 등의 인공지능 윤리에 대한 관심은 많이 있어왔습니다. 저는 예전부터 기술의 양면성에 관해 이야기해왔습니다. 불은 우리를 따뜻하게 하고 음식을 익히며 집을 태웁니다. 이러한 기술들은 훨씬 더 강력합니다. 논의하자면 길지만 제 생각으로는 적어도 세가지 단계를 거쳐야 한다고 생각합니다. 첫번째는 오랜세월 동안 이어온 가난과 질병같은 고통을 이겨낼 기회를 즐기는 것입니다. 그 다음은 이러한 기술들이 파괴적이고 실존적인 위험을 초래할 수 있다는 것을 경고하는 것입니다. 마지막으로 지금까지 우리가 이룩한 진보에도 아직까지 많은 사람들이 고통을 받고 있기 때문에 우리가 더 진보해야할 도덕적인 의무가 있다는 것을 인식해야 합니다. (상황이 악화되고 있다고 생각하는 사람들이 있지만 실제로는 나아지고 있습니다) 빈곤과 질병과 환경파괴를 극복해나가기 위해 인공지능의 진보가 필요합니다.

우리가 참고할 수 있는 좋은 모델이 있습니다. 40년 전 노화와 질병을 해결하기 위한 유전자 조작같은 생명공학의 가능성과 위험 두가지를 주목한 사람들이 있었습니다. 그래서 그들은 아실로마 컨퍼런스 센터에서 아실로마 회의라고 이름붙은 회의를 개최하고 생명공학 기술의 안전을 유지하기 위한 윤리 지침을 세웠습니다. 이제 40년이 지나 우리는 생명공학의 임상적 효과를 보고 있습니다. 그 물결은 지금은 천천히 흐르고 있지만 다음 10년 뒤에는 흘러넘칠 것입니다. 생명공학의 남용으로 인해 의도적이든 사고든 해를 입은 사람들은 전혀 없었습니다. 어떻게 해나가야할지에 대한 좋은 모델입니다.우리는 인공지능 윤리를 위한 아실로마 회의를 개최했습니다. 생명공학의 경우 많은 윤리적 지침들이 법으로 정해졌습니다. 제 생각은 그것이 목표입니다. 이해하는 것이 먼저입니다. "기술을 금지하자", "속도를 낮추자" 같은 것은 극단적입니다.  그건 올바른 접근법이 아닙니다. 건설적인 방법으로 시작해봅시다. 그러기 위한 전략이 있는데 그건 또다른 복잡한 논의입니다.

니컬러스 탐슨: 예를 들어 의회에서 특정 기술에 종사하는 모든 사람들은 자신들의 데이터를 공개하거나 이런 강력한 도구를 이용한 경쟁시장을 허용하기 위해 데이터를 공유해야 한다는 법을 만들 수도 있습니다. 정부에서 이런 식으로 말할 수도 있습니다. "정부에서 지원해 줄 수 있지만 대신 오픈인공지능같은 것 대신 정부를 통해 운영해야 합니다." 국가적으로 이 기술을 지원해줘서 공익적인 목적으로 일부를 컨트롤 할 수 있는 것도 생각해 볼 수 있습니다. 어떻게 생각하십니까?

레이 커즈와일: 오픈소스 데이터와 알고리즘은 일반적으로 좋은 아이디어라고 생각합니다. 구글은 모든 인공지능 알고리즘을 오픈소스인 텐서플로를 이용한 퍼블릭 도메인에 적용합니다. 수확가속의 법칙과 오픈소스의 조합은 우리를 더 목표에 가까이 가게 해줄 것입니다. 이 분야에 종사하는 사람들은 개인정보와 같은 여러 문제들을 중요하게 생각해야 합니다. 무엇이 올바른 답인지는 명확하지 않습니다. 계속해서 나아가는 것이 중요하지만 지나치게 많은 권한이 생기면 의도가 좋더라도 남용될 여지가 있습니다.

니컬러스 탐슨: 걱정되는 것은 무엇입니까? 당신의 미래 전망은 정말 낙관적입니다. 하지만 걱정되는 것도 있지 않습니까?

레이 커즈와일: 전 낙관론자라고 비난받아왔습니다만 사업가는 낙관적이어야 합니다. 직면할 수 있는 모든 문제를 고려하면 어떤 프로젝트도 시작 못합니다. 다만 제가 말했듯이 저는 부정적인 실체에 관해 염려도 하고 글도 썼습니다. 이 기술들은 매우 강력하기 때문에 제가 낙관주의자일지라도 염려하지 않을 수 없습니다. 그래도 우리는 해결할 수 있다고 믿습니다. 어려운 일이 일어나지 않을 것이라고 낙관할 수는 없습니다. 2차 세계대전에서 기술발전의 위력으로 5천만명이 사망했습니다. 하지만 우리가 진전하고 있다는 것을 사람들이 알아주는 것이 중요합니다. 최근 26 나라에서 2만4천명에게 설문조사를 했습니다. 문항은 "세계의 빈곤이 나아졌습니까 악화되었습니까?"였고 응답자의 90퍼센트는 악화되었다고 했습니다. 단 1퍼센트만이 빈곤이 50퍼센트 이상 줄었다고 정확히 응답했습니다.

니컬러스 탐슨: 여기 계신 분들은 이제 완전히 새로운 기술 발전으로 인해 직업 선택에도 영향을 받게 될텐데요. 향후 진로에 대한 조언을 해주시겠습니까?

레이 커즈와일: 진부한 조언을 하자면, 여러분의 열정을 따라가세요. 어떤 직업이든 영향을 받지 않는 것이 없을 것입니다. 우리는 클라우드에서 시뮬레이션된 신피질과 융합될 것입니다. 따라서 우리는 똑똑해질 것입니다. 인공지능은 인간을 대체하는 것이 아닙니다. 인간을 더 향상시키는 것이죠. 이미 시작된 일입니다. 지금 우리가 가지고 있는 이 확장된 두뇌들을 이용하지 않고 일하는 사람은 없을 것입니다. 그런게 계속 되는 것입니다. 이렇게 말하는 사람들이 있습니다. “부자들이나 그런거 쓰지.” 그러면 제가 이렇게 답합니다. “그렇죠. 그런 스마트폰이 30억개나 나왔습니다.” 원래는 20억개라고 하려고 했는데 뉴스를 봤더니 30억개더군요. 2년 뒤에는 60억개로 늘어날 것입니다. 가격대 성능비가 폭발적으로 증가했기 때문입니다. 그러니 당신의 열정이 향하는 곳을 찾으세요. 세계를 위해 뭔가 새로운 것을 해낼 길을 찾으세요. 사용할 수 있는 도구를 쓰세요. 저는 직접 기술개발을 하여 수확가속의 법칙을 깨닫게 되고 기술분야가 어떻게 발전하는지 미리 예측하여 실제로 기술이 실현되기 몇 년 전부터 사업을 시작할 수 있었습니다. 몇 년 전에도 스마트폰같은 기기들이 있긴 했지만 별로 좋지는 않았죠. 그러니 5년 전에는 모바일 앱이라든가 그런 혁명적인 것들이 거의 없었습니다. 5년 뒤 세상은 또 그만큼 달라질테니 준비를 하여야 할 겁니다.

방청객 질문: 과학과 탐험에 대한 인간 본성의 긍정적인 부분에 대한 이야기는 많이 나왔는데요, 제가 궁금한 것은 로봇에 관한 것입니다. 전쟁과 전쟁용 기계의 폭력같은 어두운 면은 어떻습니까? 이미 몇몇 인공지능 실험들에서는 인터넷상의 부정적이고 적개심 넘치는 면들을 학습한 사건이 있었습니다. 그런 것은 어떻게 대처해야 합니까? //(뒷부분은 축약된 인터뷰엔 빠졌는데 질문이랑 답변이 안맞는것 같아서 인터뷰 원본에서 번역해서 추가해놓음)

레이 커즈와일 : 우리는 이 플랫폼이 인간의 모든 성향에 익숙해지게 조작하는 것을 연구하는 중입니다. 우리가 연구하는 많은 부분들이 최신 정보들이죠. 그래서 인공지능은 예제를 통해 배웁니다. 예제 10억개부터 시작한다는게 이 분야의 모토입니다. 그리고 예제를 구하는 최선의 길은 사람들을 보고 배우는 것이어서 인공지능은 사람한테서 많이 배웁니다. 전부 그런 것은 아닙니다. 알파고 제로는 그저 자기자신과 바둑을 두면서 바둑을 배웠습니다. 하지만 복잡한 실제 세상도 전부다 그런식으로 배울 수는 없습니다. 주요 기업들과 오픈소스 연구 모두 큰 노력을 기울이는 것이 인공지능의 편향성을 줄이는 것입니다. 사람들이 편향성을 갖고 있기 때문에 사람들에게서 배운다면 성 편향과 인종 편향을 극복해줘야 합니다. 그게 실질적인 목표입니다. 사람들은 자신들이 보고 들은 것으로 인해 잠재의식 속에 편향성이 생기게 됩니다. 그래서 우리는 자신의 편향성을 인식하고 극복해내기 위해 교육을 받아야 합니다. 그래서 이것이 기계지능의 문제를 극복하는 연구의 한 유형입니다. 이런 방법으로 기계지능은 오히려 사람보다도 덜 편향될 수 있습니다. 그리고 비록 소셜 미디어에는 장단점이 있지만 전체적으로는 장점이 큽니다. 공항에서 아이들을 보면 2살 이상이면 다들 스마트폰을 들고 있습니다. 세계의 모든 문화와 서로 접촉하고 교제하면서 자란 이 세대는 다른 세대들보다도 자신들이 더욱더 지구공동체의 일원이 되었다고 느낄 것입니다.

니컬러스 탐슨: 작년에 우리나라는 세계의 다른 나라들과 가까워지지 못했고 많은 사람들은 우리나라의 민주주의가 나아지지 않았다고 할 것입니다. 이것이 인류가 하나가 되는 과정의 일시적인 문제에 불과할까요? 아니면 많은 사람들이 잘못 이해하는 것일까요?

레이 커즈와일: 우리나라와 세계 다른 나라들의 정치가 양극단으로 치닫는 것은 불행한 일이죠. 지금 이 자리에서 얘기할 내용은 아닌 것 같습니다. 세계적으로 큰 사건들은 있어왔습니다. 2차 세계대전은 큰 사건이었지만 이런 경향에 영향을 주지는 않았습니다. 어떤 정부체제에서는 우리 마음에 들지 않는 것들이 있을 수 있습니다. 하지만 논의는 있습니다. 자기 목소리를 내지 못할 만큼 전체주의 시대에 사는 것도 아닙니다. 계속 이런식으로 진행된다면 우려가 되겠지만 그렇게 되지는 않을거라고 봅니다. 정부의 중요성을 과소평가하는 것도 아니고 누가 권력을 갖고 있든지간에 이건 다른 레벨의 문제입니다. 지금 이야기하는 주제들에 영향을 줄 정도는 아닙니다. 제가 걱정하는 것은 기술은 양날의 칼과 같은 실존적인 위험이 있기 때문입니다.

방청객 질문: 불평등에 관해서 질문하고 싶습니다. 역사적으로 경제적 불평등은 높았습니다. 그러한 면에서 20세기가 예외적인 시대라고 생각하시는지 그리고 기술 확산이 불평등에 어떻게 영향을 미칠지 알고 싶습니다.
레이 커즈와일: 경제적 불평등은 나아지고 있습니다. 지난 20년간 아시아의 빈곤은 원시적인 농업 경제에서 정보산업으로 탈바꿈하여 세계 경제은행에 따르면 빈곤이 90퍼센트가 감소했습니다. 아프리카와 남아메리카는 선진국보다 높은 성장률을 보이고 있습니다. 불평등은 여전히 존재합니다만 극적으로 개선되고 있습니다. 지난 20년동안 전세계 빈곤은 50퍼센트가 줄었습니다. 사람들은 디지털 격차라는 말을 쓰지만 그건 아닙니다. 아프리카에서 인터넷과 스마트폰은 널리 쓰이고 있습니다. 그건 지난 몇 년 사이에 일어난 변화입니다. 따라서 우리는 올바른 방향으로 나아가고 있습니다. 불평등은 여전히 존재하고 고통받는 사람들도 존재하지만 통계적 수치는 올바른 방향으로 성장하고 있습니다.

방청객 질문: 12년뒤에 완전한 인공지능(AGI)이 나온다고 예측하셨는데요, 본인은 낙관주의자라고 하셨지만 실존적인 위험에 관해서도 우려한다고 여러차례 말씀하셨죠. 그것에 관해 더 자세히 설명을 해주실 수 있는지 그리고 기술자들이 위험을 줄이기 위해 해야 할 가장 중요한 일이 무엇인지 알고 싶습니다.

레이 커즈와일: 실존적인 위험이라는 건 우리 문명의 생존이 위협받는 것을 말합니다. 처음으로 인류가 맞닥뜨린 실존적인 위험은 핵무기의 확산이었죠. 우리는 모든 인류를 몇번이나 말살할 수 있는 능력을 갖고 있습니다. 이러한 새로운 기술로 인류문명이 파괴되는 시나리오를 유추하는 것은 어렵지 않습니다. 생명공학도 있죠. 질병치료 목적으로 유전자조작을 할 수도 있습니다. 암을 정복하기 위한 혁명적인 면역치료요법이 시작됐습니다. 하지만 테러리스트들이 더 치명적이고 감염력이 높은 은밀한 바이러스를 만들어 신무기로 써먹을 수도 있습니다. 그런 문제들로 인해 40년 전 아실로마 회의가 개최된 것이죠. 윤리 지침과 안전 절차, 정교한 전략을 만들기 위한 회의는 반복해서 열렸고 지금까지는 잘 해왔습니다. 하지만 기술은 계속 복잡해져갈테고 그에 맞춰서 계속해서 고쳐나가야겠죠. 우리는 인공지능 윤리를 위한 아실로마 회의를 최근에 개최했습니다. 우리 모두 동의한 윤리지침에 합의했는데 명확하지는 않습니다. 이것이 최우선적으로 우선시해야할 것이라고 생각합니다. 우리는 소프트웨어에 윤리적 가치를 구축해야 한다는 것을 알고 있습니다. 전형적인 예가 바로 자율주행차입니다. 자율주행을 도입하는 근본적인 목적은 사고를 99퍼센트 줄여 사고로 죽는 200만명의 목숨을 구하는 것이지만 문제는 윤리적인 결정이 필요한 상황입니다. 유모차를 들이받느냐 아니면 노부부를 치어야 하느냐 아니면 승객이 죽을지도 모르지만 벽으로 방향을 꺾어야 하느냐 같은 것이죠. 승객을 죽게해선 안된다는 윤리적 지침이 있습니까? 그런 상황에서 소프트웨어 개발자한테 내가 어떻게 해야하냐고 메일을 보낼 수는 없습니다. 소프트웨어에 미리 내장되어 있어야 합니다. 이런 실질적인 사안들이 있고 인공지능 윤리의 영역도 넓어지고 있습니다.

하지만 더 실존적인 위험은 어떻게 해야할까요? 인공지능의 무기화는 먼 미래의 일이 아닙니다. 전세계의 군대는 인공지능을 적용하고 있습니다. 자율무기를 금지하자고 촉구하는 서한이 나왔는데 좋은 생각처럼 보입니다. 화학무기도 금지했는데 자율무기도 금지 못할 이유가 있겠습니까. 하지만 이건 좀 더 복잡합니다. 우린 탄저병과 천연두 없이도 살 수 있습니다. 금지해도 되죠. 그러나 자율무기는 양면성이 있는 기술입니다. 아마존 드론은 택배도 배달하고 병원으로 의약품도 실어나를 수 있지만 아프리카에서는 무기도 나를 수 있습니다. 똑같은 기술입니다. 더 이상 막을 수 없죠. 뭐가 더 복잡한 문제라고 말할 수 없습니다. 하지만 위험을 통제하고 희망을 찾는 것이 목표입니다. 간단한 알고리즘은 없습니다. "그래 이 서브루틴을 집어넣자고. 이러면 인공지능이 착해질거야." 이런 간단한 서브루틴은 없습니다. 지능이라는 것은 본질적으로 통제할 수 없습니다. 제 전략은 우리 인간 사회에서 우리가 기대하는 윤리와 도덕과 가치를 실천하는 것입니다. 화성에서 온 인공지능 기계들이 침략해오는게 미래사회가 아닙니다. 현재의 우리 문명에서 생겨나는 것이죠. 우리 자신이 성장하는 것입니다. 그러니 현재 우리가 소중히 여기는 가치를 계속 지켜나간다면 미래에도 그 가치를 지켜나가겠죠. 이것이 최선의 전략입니다.
출처: https://www.wired.com/story/ray-kurzweil-on-turing-tests-brain-extenders-and-ai-ethics/
인터뷰 전문: https://www.cfr.org/event/future-artificial-intelligence-and-its-impact-society

2017-11-27 02:32:17





글 출처 : ㅇㅇ (14.33)  님 글로부터 펌

[익명(14.33)]

내가 직접 올리고 싶었는디