출처 : https://blog.naver.com/PostView.nhn?blogId=tech-plus&logNo=221712266155&proxyReferer=https%3A%2F%2Fblog.naver.com%2Ftech-plus%2F221712266155


천재 물리학자 스티븐 호킹은 AI(인공지능)에 대한 우려를 나타낸 바 있다. “생물학적 진화가 느린 인간은 AI와 경쟁할 수 없고 결국 대체될 수 있다. 앞으로 100년 안에 AI가 사람을 따라잡을 것이다”

애플의 공동 창업자 스티브 워즈니악은 인간이 AI의 '애완동물'이 될 수 있다고도 말했으며, 테슬라 CEO 일론 머스크도 궁극적으로 사람은 불멸의 독재자(=AI)를 만나게 될 것이라고 언급했다.

(출처:Flickr)

최근 관련 저서를 출판한 버클리 대학의 스튜어트 러셀 교수 역시 비슷한 주장을 제기했다. 빠르면 몇 년 내에 인간이 AI 때문에 큰 코 다칠 수 있다는 것. 그렇지만 그는 책이나 영화처럼 AI가 인간에게 반기를 드는 것이 아닌, 우리의 잘못된 '지시' 때문일 것이라고 예상했다.

SF 영화를 보면 인간의 지시에 따르던 AI가 반발심이 생기면서 인간을 해치는 경우가 많은데, 러셀 교수는 AI가 감정이 없기 때문에 영화 같은 일은 일어나지 않을 것이라고 설명했다. 그러면서 우리가 걱정해야 하는 건 그들의 '의식'이 아닌 '능력'이라고 덧붙였다.

(출처:Wikipedia)

인간이 내린 잘못된 명령도 아주 훌륭하게 수행해내는 AI의 능력. 이것이 우리가 우려해야 하는 점이라는 것. 교수는 BBC와의 인터뷰에서 해당 문제를 '미다스 왕'에 비유했다.

그리스 신화에 따르면, 탐욕스러웠던 미다스 왕은 술의 신 디오니소스에게 손에 닿는 모든 것을 황금으로 변하게 해달라는 소원을 빈다. 미다스 왕은 조각물, 가구 등 닥치는 대로 황금으로 만들어냈다. 하지만 문제가 발생한다. 음식을 만지기만 하면 황금이 되니 뭘 먹을 수도 없었다. 무심코 안았던 자신의 딸은 금 조각상으로 변해버렸다.

이 이야기와 같이 미처 고려하지 못했던 문제를 포함한 명령 그리고 명령을 아주 훌륭하게 임무를 수행하는 AI의 자세. 이것이 가장 위험하다는 얘기다.

(출처:Freepik)

그럼 이런 의문이 들 테다.'내가 원할 때 만지면 황금이 되도록 소원을 빌면 되지 않나?' AI에게 아주 상세하게 명령을 제시하는 것이다.

러셀 교수는 해결책이 ‘보다 세밀하고 정확한 목표를 제시하는 것’은 아니라고 강조했다. 인간은 본래 어떤 일이 벌어지기 전까지는 결과를 예측하지 못한다면서 AI 시스템을 구축하는 시스템 자체를 바꿔야 한다고 주장했다.

알파고처럼 고정된 목표를 지정해주고 AI가 이를 수행해야 한다는 틀에서 벗어나야 한다는 것.

(출처:Freepik)

이세돌 9단을 꺾었던 '알파고'보다 더 강력한 버전인 알파고 제로의 경우 인공 신경망을 이용한 딥 러닝을 사용했다. 사전 지식 없이 인간의 수(手)를 전혀 참고하지 않고, 무작위 수에서 시작해 스스로 바둑을 학습했다. 그 결과 3일 만에 인간을 이긴 것은 물론 40일 만에 기존의 바둑 챔피언 '알파고 마스'를 이겼다.

러셀 교수는 해당 문제를 언급하면서 "시스템이 목표를 모른다는 것을 인식시켜야 한다. 무엇인가를 학습하기 전 인간에게 허락을 받고 작동하는 시스템으로 변해야 한다"라고 말했다. 그러면서 AI는 자신이 도출한 결과가 정답인지 아닌지 홀로 판단하지 못하기 때문에 인간의 개입이 늘어나야 한다고 설명했다.

[출처] AI, 말 잘 들어서 문제?...손 대면 황금되는 '미다스의 손 딜레마'|작성자 테크플러스