제목: 자동화 알고리즘이 ‘위험사회’와 맺는 관계

읽은 책: 위험사회

분야: 비문학

 독일의 사회학자 울리히 벡은 그의 저서 『위험사회』에서 ‘위험사회’인 현대사회는 “부의 사회적 생산에 위험의 사회적 생산이 체계적으로 수반”되며 그 위험은 “초국가적이며 비계급특정적인 지구적 위해를 낳는다”고 주장했다. 그는 대표적인 예시로 핵발전 문제, 스모그 문제, 독극물 문제 등을 드는데 이런 문제는 산업활동의 부수효과로 생산되어 해당 지역과 해당 노동자에게만 위해를 가하는 것에서 끝나지 않고 결국 국경과 계급을 넘어 모두에게 파장을 미친다는 점을 지적한다. 이와 같은 현상을 그는 한 문장으로 요약해 “빈곤은 위계적이지만 스모그는 민주적”이라고 말한다. 광범위한 영향을 가진 이런 위험들은 시민들로 하여금 위험의식을 갖게 하지만 위험의 비가시성, 복잡성, 다양한 위험에 관한 정의 그리고 “자연과학자들과 공학자들이 정치와 윤리와 기업과 사법적 실천의 기관”이 되어 그것들의 영향으로부터 자유롭지 않다는 점 등 때문에 시민들의 불안은 지속될 수밖에 없다. 벡은 타개책으로 ‘성찰적 근대화’를 제시하는데 구체적으로는 과학과 기술이 전문가 그룹에게 독점되는 것에서 탈피해 시민들의 힘으로 “기능적 분화의 ‘법칙’은 탈분화(위험갈등과 협동, 생산의 도덕화, 하위정치의 분화)로 전복되고 무효화”되도록 해야 한다는 의미이다. 나는 이상과 같은 ‘위험사회론’이 정보기술, 특히 자동화 알고리즘이 급속도로 도입되고 있는 현대 한국사회에도 적용될 수 있다고 생각한다. 

 알고리즘이란 간략히 말해 문제를 해결하기 위해 명령들로 구성된 일련의 순서화된 절차이다. 우리가 쓰는 기계들의 프로그램들은 특정 알고리즘에 따라 행동하며 최근 들어 빅데이터, 머신러닝과 기타 정보기술들의 발전으로 다양한 현장에서 자동화 알고리즘이 적용된 프로그램들을 사용한다. 대표적으로 딥마인드의 알파고, 애플의 시리, 현대차의 HDA2, 아마존의 에코, SKT의 T맵, 주식시장의 프로그램 등이 있다. 기업들은 어째서 자동화 알고리즘 도입을 너도나도 서두르는 걸까? 그 이유는 넘쳐나는 정보들 속에서 일정한 패턴을 찾는 데에 이것만 한 것이 없고 그런 패턴을 찾아내 적합한 서비스나 재화를 팔아 큰 수익을 얻을 것으로 기대하기 때문이다. 실제로 우리는 유튜브의 추천영상, 쇼핑몰 사이트의 추천상품 등을 자주 클릭하거나 구입하기도 한다. 

또한 기업들은 일정한 패턴을 알아내고 처리하는 알고리즘이 인간 보다 합리적이며 안전하다고도 생각한다. 이런 생각의 가장 대표적인 사례로 자율주행차량과 주식시장의 프로그램을 들 수 있다. 자동차 회사들은 교통사고의 90%가 운전자의 부주의로 발생하며 자율주행차량이 이러한 문제를 실질적으로 막아낼 방안이라며 홍보하고 있고 증권사, 뮤츄얼펀드 등은 실제로 예전부터 알고리즘을 이용하여 수익을 내고 있다고 알려져 있다. 그러므로 기업의 주도로 자동화 알고리즘이 확대될 것은 명약관화이며 이미 현실이다. 여기서 우리는 자동화 알고리즘이 주는 변화를 단지 환영하고 소비하면 그만일까? 이는 주체적 태도가 아니다. 앞에서 보았듯이 아무리 예쁘게 포장되었더라도 기술에는 위험이 따른다. 우리는 이것을 ‘성찰적’으로 따져보아야 한다.

 정보기술이 생활에 가하는 위해에 우리는 친숙하다. 은행전산망 보안문제, 인터넷 중독, 정보격차 등등 셀 수 없는 문제들이 언론에 보도되고 있다. 그러나 자동화 알고리즘이 가져올 문제를 한국사회는 제대로 논의하고 있는가 물어보면 미심쩍다. 알파고 등장 이후 과장된 논의가 SF영화에 나올 법한 강한 인공지능을 상상하며 잠깐 일어나고 말았을 뿐이다. 알파고도 결국 통계능력이 뛰어난 자동화 알고리즘의 하나에 다름 아니다. 현대과학은 아직 뇌과학 연구가 미진하고 지능이란 무엇인지 정의 내리지도 못하고 있는데 인공지능이 마른 하늘의 날벼락처럼 나타났다고 주장하는 것은 어불성설이다. 우리는 그런 인공지능을 걱정하기 이전에 자동화 알고리즘에 대해 생각해봐야 한다. 

내가 생각하는 자동화 알고리즘의 문제는 이 현상을 주도하는 것이 소수의 기업이라는 것이다. 제대로 된 자동화 알고리즘을 만들어 내는 것은 일반적인 프로그래밍과 다르다. 수학과 통계학적 지식을 가진 이들을 모으며 향상된 새로운 모델을 만들어낼 역량이 있는 기업만이 이 새로운 시장을 주도한다. 이런 기업들과 인재들은 대부분 미국의 실리콘 밸리, 중국의 선전에 모여 있고 대표적인 기업으로 구글이 있다. 이런 독과점 문제는 단순한 시장교란에서 끝나지 않는다는 것이 내가 지적하고자 하는 문제이다. 자동화 알고리즘은 산업 전반의 위험을 더욱 복잡하게 한다. 자동차로 예를 들어보자. 자동차는 항상 교통사고라는 위험을 갖고 있다. 자동화 알고리즘은 여기서 주행보조역할을 함으로써 그 위험을 줄여줄 것이다. 그런데 만약 알고리즘이 오류를 일으키거나 지금까지 없던 새로운 상황을 맞닥뜨릴 때 오작동을 일으키는 또 다른 위험이 생겨난다. 실제로 우린 알파고가 제4국 78번 수라는 새로운 상황에 제대로 대처하지 못하고 항복한 사례를 알고 있다. 또 다른 사례를 들어보자. 한맥투자증권은 2013년 주식시장에서 옵션거래로 460억 원의 손실을 내 파산위기에 처했다. 근데 당시 그 원인 중 하나로 지목된 것이 알고리즘 매매였다. 즉 위험회피를 위해 사람 보다 빠르고 정확한 알고리즘을 쓴 것이 오히려 위험을 만들어낸 것이다. 

위에서 본 사례들과 같이 자동화 알고리즘도 실수를 저지른다. 안전하고 합리적이란 것은 신화일 뿐이다. 독과점 문제는 이 문제를 더 심화시킨다. 우리가 지금 대부분 마이크로소프트의 윈도우OS와 오피스 프로그램을 쓰는 것처럼 자동화 알고리즘 또한 몇 개 회사 모델만이 살아남아 시장을 지배할 것이다. 그리고 생활의 사소한 부분부터 높은 수준의 영역까지 우리는 의존하게 될 것이다. 만약 자동화 알고리즘이 오류를 일으켰을 때 우리는 어떤 대처를 할 수 있을까? 이런 문제는 가정에서 해결할 수 있는 차원의 문제가 아니다. 자동화 알고리즘의 자세한 내막은 지적재산권으로 보호되어 그걸 만든 기업만이 알고 있을뿐더러 어떤 경우엔 그 기업조차 왜 자동화 알고리즘이 그런 판단을 내렸는지조차 알 수 없을 수도 있다. 법적인 문제까지 따지면 문제는 한층 더 복잡해진다. 다국적기업인 이들은 한국정부의 법이 제어할 수 없을 것이다. 실제로 최근 구글의 자회사인 유튜브의 경우 518 민주화운동을 왜곡한 가짜뉴스를 삭제해달라는 여당 의원의 요구에 삭제할 수 없다고 답한 바 있다.

물론 자동화 알고리즘이 지금까지 말한 것처럼 인류에게 해악만 주는 것은 아닐 것이다. 분명 도움이 되는 측면이 있다. 세탁기가 빨래에서 여성들을 해방시킨 것처럼 자동화 알고리즘은 우리로 하여금 불필요한 노동에서 해방시키고 다른 차원의 일을 하게 도와주는 역할을 할 수 있다. 그러나 자동화 알고리즘은 세탁기처럼 내 집의 세탁기를 끈다고 그 영향이 사라지는 것이 아니다. 네트워크망으로 알고리즘들은 서로 연결되어 있다. 내가 아무리 모든 기계들을 꺼도 한 발자국만 밖으로 나오면 자동화 알고리즘과는 피할 수 없다. 

이런 파장력에도 불구하고 한국사회의 제도정비는 미미한 것 같다. 현정부 들어 대통령 직속 4차산업혁명위원회가 만들어졌지만 공무원들과 몇 명의 전문가인지도 잘 알 수 없는 사람들이 모여서 규제와 혁신을 외치는 기관에 불과할 뿐만 아니라 1년 간의 활동기간 중 그들이 한 것이라고는 몇 가지 심의안건을 추진한 것이 전부이다. 벡이 주장한 ‘탈분화’의 기관이 아닌 것이다. 벡의 주장에 가장 적합한 사례로 흔히들 독일의 탈핵 과정을 든다. 후쿠시마 사태 이후 메르켈 총리 주도로 ‘안전한 에너지 공급을 위한 윤리위원회’를 만들어 과학자, 관료, 시민단체, 노조 관계자, 종교 지도자, 심지어 사회학자로서 울리히 벡 자신도 참여하고 그 외 30명의 외부 인사들이 참여한 TV 공개 토론회를 벌여 시민들의 합의로 2022년까지 탈핵할 것을 정부가 결의한 사례이다. 이런 의사결정 방식이 나는 자동화 알고리즘의 문제를 다룰 때도 필요하다고 생각한다. 또한 위에서 언급한 것처럼 자동화 알고리즘을 만들어내는 기업들은 다국적기업이기 때문에 국내정치에서 해결하기엔 한계가 있다. 그래서 나는 국제원자력기구(IAEA)와 같이 국제기구를 만들어 국제적으로 제어할 수 있도록 해야 한다고 생각한다. 

마지막으로 한 가지 질문을 던지면서 글을 마치고자 한다. 자동화 알고리즘은 민주적으로 될 수 있는가? 그리고 이것은 위험을 줄일 수 있을까? 한 가지 경우를 상상해보자. 사람들이 모여서 투표를 하고 의사결정을 하는 것처럼 알고리즘들도 서로 연결돼 투표를 할 수 있다. 실제 알고리즘 중 k-NN이라는 다수결을 이용하는 것이 있는 걸로 나는 알고 있다. 이 질문에 대해 내 생각을 말하자면 민주적일 수 없다고 생각한다. 왜냐하면 자동화 알고리즘은 가치를 판단할 수 없기 때문이다. 우리 인간을 저 알고리즘과 다르게 만드는 것은 지능이며 지능엔 분명 가치판단의 기능이 있다. 그리고 무엇을 위험이라 정할 지 자동화 알고리즘의 도움을 받을 수 있겠지만 가치의 영역이 분명 개입할 수밖에 없다. 그러므로 결국 자동화 알고리즘만으로 위험을 줄인다는 것은 논리에 맞지 않는다. 위험이 무엇인지 알고리즘은 정할 수 없기 때문이다. 

세파에 휩쓸린다는 표현이 있다. 우리는 단지 휩쓸리기만 하는 존재인가. ‘4차산업혁명’ 시대이기 때문에 빠르게 적응하고 수용하면 그만인 것일까? 시대나 사회 또한 인간이 만드는 것이다. 인간은 그들의 제어를 벗어난 핵폭탄을 만들었지만 그것을 발전에 이용했고 폐기하는 시대 또한 만들어냈다. 중요한 것은 성찰하는 인간의 주체성이다.