[📪정보] "AI논문에는 윤리가 포함되지 않았다"

미 유명 대학연구원들 조사, 98건 논문이 AI기술 부정 영향 언급 전혀 없어
기업과 제휴 비율, 2019년 기준 79%로 10년 전 대비 두 배 증가
고학수 교수, "논문 피인용지수 높이고 연구자금 대비 성과 제고 압력 있어"
구글 AI 윤리팀 팀닛 게브루 박사, AI 위험성 우려 논문 발표로 해고되기도

저명 AI 컨퍼런스에 제출된 논문 중 AI윤리 관련 내용이 포함된 논문은 얼마나 될까.

30일(현지 시간) 미국 기술 웹사이트 벤처비트에 따르면 AI 연구에 영향을 주는 요인을 분석하기 위해 스탠퍼드ㆍ캘리포니아대ㆍUC 버클리ㆍ워싱턴대 연구원들이 협력해 유명 AI 컨퍼런스 NeurIPS와 ICML에 제출된 고 피인용 논문 100개를 조사했다.

사진=셔터스톡

분석 결과, 98건의 논문이 인공지능 기술의 부정적인 영향에 대한 언급을 하지 않았다. 나머지 논문 2건도 AI 윤리와 기술 간 연결 고리를 찾으려는 시도에서 그쳤다. 3분의 2이상(71%)의 논문이 사회적 필요나 영향에 대해 전혀 언급하지 않았다.

대부분의 논문이 사회적 요구보다 대기업의 요구를 선호하며 AI 편향 문제를 당연하게 받아들이고 있었다. 또, 해당 논문이 기업과 제휴를 맺은 비율은 2019년 기준 79%로 10년 전과 비교해 두 배 증가했다. 연구팀은 기업에게 유리한 쪽으로 편향된 현재 AI 학계 추세를 지적했다.

연구팀은 상위 100개 AI 논문의 주요 가치로 기술 성능ㆍ과거 연구 기반 발전 성과ㆍ효율성ㆍ정량적 증거ㆍ참신성을 확인했다. 하지만 AI 기술 사용 자율성ㆍ윤리 원칙ㆍ사람에 대한 존중 관련 가치는 나타나지 않았다.

이와 관련해 서울대 고학수 교수(한국인공지능법학회장)는 AI타임스와 전화 인터뷰에서 "인지도 있는 학술대회나 컨퍼런스에 논문을 낸다는 것은 새로운 기술과 성과를 알리는 것이다. 일반적으로 공대 출신 연구자는 연구 과정에서 자금지원이나 기업 후원을 받기 마련이다. 따라서 연구자는 논문 피인용 지수를 높이고 연구 자금을 받은 만큼 성과를 내야 한다는 압력이 작용한다."라고 말했다.

서울대 고학수 교수

고 교수는 기술 성과에 반하는 내용을 논문으로 내는 것은 현실적으로 어려우며 AI 윤리 관련 컨퍼런스도 드물다고 덧붙였다.
또, 그는 "최근 국내에서 활발히 연구 중인 자연어 처리 분야에서 연구자 개인의 책임감도 중요하지만 이와 관련된 직접적인 투자가 이루어져야 한다"라고 지적했다.

국내 AI 학계가 나아가야 할 방향에 대해 고 회장은 "한국의 경우 AI 기술 성과에 대한 관심은 높지만 사회적 측면의 관심은 현저히 낮다. 이루다 사건에서 개인 정보 보호법 문제를 포함해 여러 문제들이 있었지만 공론화된 것은 하나뿐이었다. 앞으로 공학과 사회과학의 학문적 융합을 통해 인공지능에 대한 균형있는 시각을 길러야 할 필요가 있다."라고 강조했다.

한편, 구글 AI 연구원이었던 팀닛 게브루(Timnit Gebru)박사가 지난해 AI 검색 엔진의 과도한 전력 소비와 AI 기술의 편향성을 지적하는 논문 때문에 구글 AI 윤리 팀에서 해고된 바 있다. 이 사건으로 구글은 엄청난 사회적 파장에 직면하기도 했다.

게브루 해고 사태로 구글 AI 연구원 마가렛 미첼과 고위직 연구원 새미 벤지오가 잇따른 사임했다. 이후 새롭게 팀을 구성하는 등 자구노력을 기울이고 있으나 구글과 AI 윤리팀의 갈등은 계속되고 있다.

[📪정보] "AI논문에는 윤리가 포함되지 않았다"

댓글 3

다른 게시글