2016년에 쓰인 인공지능 칼럼에 대해


어떤 사람이 남긴 댓글인데


내용이 꽤 지혜롭고 인사이트가 있다고 생각해서 가져와봤음



좀 빽빽하게 복붙이 되긴했는데


읽을 사람만 읽어보길 바람




시간이 좀 지났지만… 남겨주신 감상에 대해서 궁금한 부분도 있고, 제 의견도 있어서 답글을 남기려고 합니다. 확실히 말씀하신대로 초인공지능이 등장하게 되었을때, 우리가 어떠한 개입 없이 그 과정을 방관할 것인가에 대한 의문이 들만한 본문이긴 하였습니다. 과학의 영역에서 등장할 수도 있는 초인공지능에 대한 설명은 길게 나와있지만, 그 초인공지능이 사회로 나와 인간들과 어떤 영향을주고 그로 인해서 어떠한 상황이 벌어질 것인가에 대한 세부적 설명이나 근거제시등은 거의 없었으니까요. 하지만 저는 이 과정이 너무나도 당연하게 받아들여지는 현상중 하나이기에 생략되었지 않나 라는 생각이 듭니다.
너무나도 상1투적인 언급이 되어버렸지만, 작년 3월에 있었던 알파고와 이세돌의 대국을 가져와서 이야기 해보려고 합니다. 알파고는 소인공지능이었고, 바둑에 있어서는 실력을 인정 받았습니다. 이런저런 이야기를 잘라내고 본론으로 들어가, 제가 인상깊게 본것은 마지막에 알파고에게 명예 9단의 자격을 부여한 장면입니다. 바둑 명예 9단이 뭐 대단한 것인가, 4:1로 인간이 패배했다는 씁쓸함과 더불어 아름다운 마무리를 위해 한국기원이 여러가지 노력을 했다고 느껴지면서, 또 하나 드는 생각은 알파고라는 소 인공지능에 dignity를 즉 권위를 부여하는 행위가 아니 었나, 라고 생각합니다. 사실 바둑 9단을 부여하면서 이세돌의 체면을 살려준것도 있겠지만, 알파고는 사실상 소인공지능으로써 바둑에 있어 다른 인간 바둑기사들에 비해서 더 나은 실력을 가지고 있다 라는 공인을 해버린 격이 되는 것이지요.
바둑얘기로 부터 돌아와서 권위 이야기를 조금 더 해보려고 하는데요, 이 권위 부여가 단순히 바둑에서만 벌어지는 행동인가, 다른곳에서도 벌어질수 있는 일이 아닐까 라는 생각을 하게되면 쉽게 부정하기는 어려울 것 같습니다. 혹시 지진관련된 인터넷 기사를 보신적이 있으신지 모르겠습니다만, 이쪽 이야기를 조금 해보려고 합니다. 우리나라에서는 현재 존재 하지 않지만, 일본이나 칠레같은 지진이 잦은 나라에서는 지진이 발생하자마자 인터넷으로 기사가 작성되어 송달되는 시스템이 있습니다. 알고리즘 저널리즘 혹은 로봇 저널리즘이라고도 하는데, 지진의 크기, 발생위치, 시간 등을 간략한 사실 전달형 기사형태인 스트레이트 형식으로 보내는 한 방식입니다. 작년 경주에서 지진이 발생하였을때 이 시스템이 우리 나라에 있었는지 없었는지는 잘 모르겠습니다만(실제로 있었다고 해도 상시 인터넷을 키고 대기할 대한민국 국민이 얼마나 될지도 모르겠습니다만…), 이 알고리즘 저널리즘이 주는 기존 저널리즘과의 차이는 상당합니다. 이 역시 소 인공지능중 하나라고 할 수 있을 것입니다. 재미 있는건 일본같은 경우 이러한 기사 송고가 의무화될 조짐을 보이고 있다는 것입니다. 사실 당연한 일이라고도 생각되는데, 자연재해가 가져다 주는 피해는 상당하고 그 대응속도를 통해 피해를 줄일 수 있다면, 이런 소인공지능의 활용은 필수적이겠지요. 아마 일본에서 타이핑으로 지진속보를 보내는 기자는 어떤 위치에 놓이게 될까요. 아마도 이 기자 혼자서 그 기사를 써야만 하는 상황인데 소인공지능을 이용하지 않았더라면, 초기대응이 늦어진 원흉으로 지적 될 가능성도 있겠지요. 이러한 경우에도 소인공지능이 인간보다 훌륭하다 라는 권위가 부여되고 있는 또 권위가 앞으로 더 부여 될수 있는 사례입니다.

권위 이야기를 오래 끌고 왔는데요, 사실 본래 하고 싶은 이야기는 지금부터 입니다. 위의 예시들에서 나타난 것처럼 현재 일부 분야에서 소인공지능이 인간보다 개선된 모습을 보이게입니다. 이러한 개선된 모습을 보이게 되면, 대부분의 경우 인간들이 그 소인공지능에 권위를 부여하는 모습이 나타납니다. 그리고 이러한 모습은 더 자주 보일 가능성이 있습니다.
현재 개발되는 대부분의 소인공지능들은 인간의 삶을 도와주고 보좌하고자 하는 목적으로 제작되고 있습니다. 구글 딥마인드의 데미스 하사비스 역시 알파고의 개발이 인간의 바둑 실력을 한단계 더 높일것이라면서 그 개발목적을 밝히기도 했습니다.
뭐 이들이 이렇게 저렇게 말은 하더라도 중요한건 말씀하신대로 인간의 욕망이라고 저는 생각합니다. 경제적인 이유가 빠질 수 없다고 봅니다. 인공지능에 대한 순수한 연구가 이뤄지는 것보다는 이와 산업과의 연계가 주된 목표가 될 수 밖에 없겠지요. 결국 앞으로 개발되는 인공지능은 인간의 삶을 개선시키는 쪽으로 나아갈 것이지 악화시키는 쪽으로 나아가긴 어려울 것입니다.
앞으로 발전되어서 나올 인공지능을 이용한 기술들이 어떤 것들이 있을지는 모르겠지만, 이들이 권위를 부여 받지 못할 가능성은 적습니다. 인간이 해낼수 있는 것보다 더 훌륭하게 인간의 일을 해내야만 실용화가 될 가능성이 생기고, 그 후 경제성을 타진하게 될 것이니까요. 그때 일반 시민들이 인공지능에 대한 긍정적인 느낌 혹은 부정적인 느낌 어떤것을 가지고 있을지는 모르겠지만, 경험상으로 추측가능한 사실, 인공지능을 통해서 발전이 이뤄지고 있다는 것은 담론으로 형성되어 있을 것입니다. 인공지능에 대한 경계보다는 인공지능이 만들어 주는 혜택으로 인해 그 발전을 촉진시키려고 하는 현상이 주를 이루겠지요.
인간이라는 본질적 존재는 개개인 마다 다르겠지만, 본능적으로 지니고 있는 생존에 대한 욕망은 이러한 현상을 더 강화 시킬 것입니다. 생존에 필수적인 경제력을 가져다주고 위험한 상황에 대한 예지가 가능한 도구를 인간이 부정적으로 생각한다는것은 본능과는 거리가 있는 행위일테니까요.개념의 오해가 생길수도 있지만 더 추가하자면, 경제적 이익을 가져다 주는것이 생존에 부정적으로 작용한다고 느끼는 사람은 없을 것입니다.
이러한 상황에서 더 나은 인공지능에 대한 욕구는 당연히 발생하게 될 것이고, 더 효율적인 인공지능을 찾게 되는건 당연한 결과입니다. 기존인공지능을 개선시켜서 자신의 업무를 더 효율적으로 만들고, 새로운 분야에도 인공지능을 도입하여 자신의 경쟁력을 높히려는 인간의 본능과 부합하는 일이지요. 결국 이러한 연구의 촉진은 소인공지능이 강인공지능으로 나아가게 되는 토대가 될 것입니다. 사회적으로 우호적 분위기가 형성되어있을 가능성이 높고, 설령 우호적이지 못한 분위기가 형성되어 있더라도, 인간이 지닌 욕구는 더 개선된 인공지능을 요구할 테니까요.

문제는 이러한 소인공지능을 지나 강인공지능이 발생했을 때 부터 아닐까 라고 저는 생각을 합니다. 인류와 비슷한 수준이나 조금더 나은수준의 지능수준을 가진 인공적인 존재가 나타났을때, 어떻게 반응할 것인가. 사실 이것에 대한 답은 없습니다. 현재 나타난 소인공지능은 제 나름대로 사례를 들어가면서 이러한 현상이 벌어지고 있음을 토대로 약간의 추측을 더 할 수 있겠지만, 강인공지능의 경우 존재한 적도 없고 감히 우리가 그 정도에 대한 상상을 하기도 어렵습니다.
그래서 오류가 될 수 있음을 감안하고 아인슈타인과 이런 강인공지능을 비교하는 방법을 택해서 이야기를 해보려고 합니다. 아인슈타인은 인간으로 태어났지만, 일반적인 인간들에 비해서 조금 더 나은 지능수준을 가지고 있었다고 평가합니다. 이러한 점에서 유사성을 가지고 있다고 가정하고 이야기를 해보려 합니다.
아인슈타인이 과학계에 남긴 업적은 상당합니다. 글을 쓰는 제가 감히 알려고 해도 이해하기 어려운 이론들을 만들어 내었고, 이 이론들이 지구에 가져다준 변화는 엄청 났습니다. 이부분에 있어 지식이 없는 저는 핵분열에 관한 연구를 진행했다는 것만 아는 정도 인데, 이 연구가 가져다준 사회적,정치적 파장은 어마어마 했습니다. 한가지 의문이 드는 점은 아인슈타인은 우리 지구에 어떤 존재 인가 라는 생각입니다. 유치하게 들어가자면 그의 업적으로 인해 우리에게 좋은 사람이냐 나쁜 사람이냐 라고 이분법적으로 들어간다고 해도, 답이 쉽게 내려지지 않습니다. 하지만 재미있는 것은 이러한 평가를 내리지 못하는 사람들도 아인슈타인의 업적을 경외하거나 아인슈타인의 명석한 지능을 경외하기는 한다는 것입니다. 물론 아인슈타인의 연구가 긍정적으로 작용했다고 생각하는 사람들이 아인슈타인을 경외하는 경우가 많겠지만, 그 판단을 내리지 못하거나, 부정적으로 생각하는 사람들도 아인슈타인의 재능을 인정한다는 것이지요.
아인슈타인의 연구 역시 정치적인 요소가 배제 되어있지는 않았습니다. 정치적인 요소가 말그대로 정치적인 요소라고 해야할지는 모르겠지만, 실제로 핵무기 연구에 참여하게 된 것 역시 정치적인 이유가 개입되었기에 그러했던 것도 사실이지요. 하지만 그 결과가 정치적인 사유와 정치적인 판단으로 감당이 가능한 영역에 있었는가는 의문입니다. 과학의 산물이 만들어낸 문제의 해결방법이 SDI라는 엄청난 하이테크 놀로지 시스템이었다는것을 생각하면, 인간이 이러한 것을 정치적으로 통제 가능한가 라는 질문에 어렵다라고 이야기가 나올수밖에 없습니다.
다시 강인공지능으로 돌아와서 과연 인공지능에 정치적 개입이 가능할 것인가 라는 이야기를 해보려고 합니다. 정확히 말하면 정치적 개입이 이루어 질 것이냐 라는 것이 더 정확할 수도 있을 것습니다. 사실 냉정하게 말해서 이러한 인공지능의 위험성에 대한 선동을 하는것역시 nerd라고 불리는 사람들, 즉 생존에 대한 부담이 없는 사람들입니다. 말이 복잡한것 같아, 다시 정리하자면, 이러한 이야기들을 해도 돈이 나오는 사람들이거나, 이러한 이야기를 하더라도 생계에 지장이 없는 사람들이 이러한 이야기를 하는 것입니다. 즉 인공지능의 위험성에 대해서 인지하건 인공지능의 위험성이 허상이라고 주장하던간에 이러한 주장이 가능한 사람들은 극히 일부일 뿐이고, 일반적인 시민들은 인공지능이 가져다 주는 혜택을 누리거나 과학영화로 부터 두려움의 감정을 받을 뿐 실체적인 접근이 가능하기는 어렵습니다. 저 역시도 이러한 글을 통해 접하기 전까지 인공지능에 대한 심도있는 사유는 불가능했겠지요. 단순히 오늘 저녁은 뭐먹지 그때 만났던 그분은 뭐하고 지낼까 라는 생각만 할 뿐인것이지요. 그리고 그것이 어찌보면 인간 본성에 가까운 사유가 될 것입니다. 자신이 이해하기 어려운 영역의 일을 사유하면서 그것에 대한 노력을 하는것 보다는 주변 상황에 대처하고 그 현상을 이해하는 것이 더 생존에도 유리한 것이니까요. 이런글이 의미가 있는 글이기는 하지만 사실은 의미가 없는 글이기도 합니다. 차라리 인공지능이 인류를 멸망시키는 영화가 오히려 더 inform시켜주는 용도로는 제격일테니까요.
이러한 것을 토대로 저는 강인공지능이 정치적으로도 과학적으로 통제되긴 어렵다고 봅니다. 더욱이 그 추측조차 하기 어려운 지성의 등장이 결과적으로 어떠한 결과를 불러올 것인가는 현 시대의 우리가 감히 추측 가능한 일은 아니라고 봅니다. 특히 정치적으로 이러한 인공지능을 통제할 수 있다고 하는것은 과거 통제되지 못한 기술,과학들의 사례가 너무나도 많기 때문에 사실상 과학자들이 자신의 연구결과가 사회에 있어 악영향을 주었을때 하는 변명거리에 지나지 않습니다. 사실상 인간의 본성이 이러한 문제를 불러왔다고 하는 책임전가용 멘트에 불과한 것이지요. 다른 한편으로는 인간의 이성이 본성을 눌러 낼수 있다는 오만한 판단에 가까운것 같습니다. 이성으로 과학 통제가 가능하다는 생각으로 인해 발생한 문제들을 다시 과학의 힘으로 누르려는 사례는 부지기수 입니다.

이 글에 포함되어있지 않는 사실들 몇가지를 덧붙이려 합니다. 트랜지스터를 이용한 정보처리 프로세서의 능력이 2년마다 두배씩 증가한다는 무어의 법칙은 2016년 까지 유효했습니다. 즉 1965년부터 반도체 집적회로의 성능은 계속 2배로 증가해 왔습니다. 현재 이 법칙이 폐기된 이유중 하나는 단순히 경제성이지, 그 가능성이 닫혀있는 것은 아닙니다. 또 다른 이유로 공정이 더 세밀해 질수록 양자워프 현상으로 인해서 문제가 발생하는데, 이 문제 역시도 양자컴퓨터를 통해 해결이 가능합니다. 즉 위에서 주장한 내용들이 과학적 근거가 배제된 사실은 아닙니다. 제 생각이지만 저 말을 했던 전문가들 사이에서는 당연시 되는 내용이기에 글에서 배제된것 아닌가 싶습니다.
위에 나타난 글이 선동적이라는 것에는 어느정도 동의하는 부분입니다. 잔인한 사진들과 그래픽요소를 이용한 설득은 저도 공감하기 어려웠습니다. 하지만 위글에서 설명하는 부분중에서 과학적인 설득력이 떨어지는 부분은 많지 않습니다.. 그것이 제시 되지 않았을지는 모르겠습니다만….

제가 이렇게 글을 적기는 했지만 궁금점이 남아있는 것이 있습니다. 제가 가진 생각으로는 비관적 미래만이 기다리고 있는 것이고 이것역시 현실성이 없는 이야기가 될 수 밖에 없다고 저는 생각이 들었습니다. 현실적으로 택하고 싶지 않은 것을 왈가왈부하는 것만큼 어리석은 일은 없을 테니까요. 그래서 실제적으로 어떠한 정치적 해결방법이 있을 수 있는가에 대한 생각을 듣고 싶습니다. 혹시라도 읽어주시게 됐다면 감사하게 생각합니다.