l9788965962359.jpg


예전에 본 한다큐멘터리에서 미국의 몇몇 주들은 양형 기준을 인공지능 알고리즘이 정하거나 참작 사항에 포함하고 있다는
내용을 보고 놀랐던 적이 있었다. 단편적으로 생각해본다면 알파고와 같은 뛰어난 기계가 중립적으로 판단하기 때문에
무척 좋은 일이고 우리나라에도 빨리 도입하자는 생각을 할 수도 있다. 그러나 기본적으로 알고리즘도 인간의 설계에 따라서
데이터를 판단하기 때문에 혹은 적확하지 않은 편향된 데이터값을 입력할 수 있기때문에 그 판단이 마치 오프사이드라인 판정하는
것과 동일한 개념으로 생각해서는 안된다.

다시말하면 알고리즘 설계와 운용에 인간의 목적과 의도가 개입할 수 있기때문에- 이 목적은 주로 효율성에 초점이 맞춰진다-
알고리즘에서 도출된 결론이 항상 공정성을 담보하지는 못한다는 이야기다.

대충 이 정도 이야기를 베이스에 깔고 저자는 불투명성, 확장성, 피해의 악순환을 특징으로하는 대량살상 수학무기들
즉, 미국내 여러 분야에서 확산되어 사용하고 있는 알고리즘의 폐해를 고발하고 있다.

물론 알고리즘이 끼치는 긍정적인 면도 있다. 이를테면 입사 지원을 하는데 똑같은 학력과 스펙으로 일부러 백인티가 나는 이름과

흑인티가 나는 이름을 써 제출했을때, 대부분 백인쪽의 손을 들어줬다고 한다. 이러한 편견을 제거하는 것에는 알고리즘이 역할을

할 수 있다. 하지만 앞서도 언급했듯이 세 가지를 특징으로 하는 대량살상 수학무기들이(알고리즘) 무조건 공정하거나 사회적

형평에 부합하는 판단을 내리는 것은 아니며, 또한 공정한 알고리즘이 내린 판단이라는 이유만으로 새롭게 차별받는 사람들이 생겨나고,

얼마 전 페이스북 사태처럼 기술을 악용하려는 사례들까지 앞으로 점점 다가올 빅데이터 시대에 알고리즘들이 하는 역할을 재검토하며,

보완된 형태의 알고리즘이 필요함을 역설하고 있다.


별사전지식이 없어도 쉽게 읽을 수 있는 책이며, 책은 쭉쭉읽힌다. 다만 잊을때마다 나오는 몇개의 오타들이 아쉬움으로 남는다.