[📪정보] 트위터, 외면할 수 없는 AI윤리,주요 기업에 속속 신설되는 AI윤리팀

미 트위터, 선구자 영입‥ META 신설
META, ‘크롭 툴’ 편향성 밝혀‥ 사용중지
챗봇 ‘이루다’로 불거진 인공지능 윤리의식
국내 네이버, 서울대와 AI윤리 준칙 발표
카카오, 전 직원들에게 윤리 교육 가속화
기업 내 윤리팀 역할 보여주는 좋은 예

(사진=셔터스톡).

안면인식, 챗봇, 무단정보 유출 문제가 지속적으로 발생하면서 각국에서 인공지능 윤리(AI Ethics)가 사회적 화두로 자리잡고 있다. 주요 IT 기업들도 기술개발은 물론 AI에 따른 윤리 문제도 무겁게 여기며 사용자들에게 보다 공정한 기술 제공에 속도를 내는 모양새다.

세계 최대 소셜네트워크(SNS) 서비스 트위터가 자사 플랫폼을 공정하게 운영하기 위해 신설한 AI윤리팀 역할이 주목받고 있다. 미 경제매체 월스트리트저널(WSJ)이 지난달 27일 보도한 바에 따르면, ‘머신러닝 윤리, 투명과 책임(Machine learning Ethics, Transparency and Accountability)의 앞글자를 따 META라고 불리는 이 팀은 루맨 차우드허리(Rumman Chowdhury)가 이끌고 있다. 차우드허리는 AI스타트업 패리티(Parity) 설립자이자, AI윤리분야 선구자로 정평이 나 있는 인물이다.

트위터는 지난해 9월, 사진을 편집하는 크롭 툴을 두고 이슈가 불거졌다. 2018년 출시된 크롭 툴은 신경망 네트워크를 활용해 사용자가 올리는 사진을 ’미리보기‘로 제공하는 기능. 이 크롭 툴이 백인의 얼굴만 미리보기 규격에 맞춰 오려내 또 다시 “AI가 안면인식 과정에서 흑인을 차별한다”는 목소리가 커졌다.

(사진=셔터스톡).

당시 트위터 커뮤니케이션(홍보팀)의 리즈 켈리는 “머신러닝이 훈련한 사진 데이터 속 흑인의 얼굴이 충분하지 못했다”며 학습자료가 부족한 점을 인정했다. 그러나 “크롭 툴의 ‘편향 테스트’ 결과, 특정 인종이나 성별을 배제했다는 증거는 발견하지 못했다”고 밝혔다.

지난 달 META는 차우드허리 팀장 주도하에 크롭 툴에 대한 조사를 실시했다. META가 조사한 바에 따르면 크롭 툴 알고리즘은 동일한 데이터가 주어졌을 때 백인의 얼굴을 4% 더 정확하게 구분했다. META가 이 같은 연구결과를 내자, 트위터는 크롭 툴 사용을 중지시켰다.

이는 IT기업 내 AI윤리팀 역할과 그 중요성을 보여주는 단적인 예다. 월스트리트저널에 따르면 솔루션 기업 세일즈포스닷컴과 컨설팅 업체 액센츄어도 AI윤리팀 채용을 가속화할 계획이다.

엑센츄어에서 ‘책임있는 인공지능(Responsible AI)’을 총괄하는 레이 포터 부장은 “트위터 META 역할이 증명하듯 AI는 이제 그들만의 연구실에서 벗어나 필수적으로 제어 기능을 갖춰야 하는 단계에 직면했다”고 말했다. 이어 그는 “우리 회사에서도 AI에 따른 소비자 피해가 발생하기 전, 잠재적 문제를 조기에 발견하기 위해 윤리팀 역량을 늘리고 있다”고 덧붙였다.

SKT가 지난 달 13일 발표한 7대 'AI 추가 가치'. (사진=SKT Insight).

한편, 국내에서도 지난 2월 17일 네이버가 AI윤리 준칙을 발표하며 AI 사용에 따른 규제환경 조성에 노력을 기울여 왔다. 스캐터랩이 개발·출시한 AI챗봇 ‘이루다’가 성차별적이고 혐오발언을 일삼아 사용이 금지된 지 약 1개월 만이다.

네이버는 서울대 AI 정책 이니셔티브(SAPI)와 공동으로 +사람을 위한 AI 개발 +다양성의 존중 +합리적인 설명과 편리성의 조화 +안전을 고려한 서비스 설계 +프라이버시 보호와 정보 보안 등 5개 핵심 AI윤리 조항을 발표했다. 같은 날 경쟁업체 카카오는 사내 전 직원을 대상으로 AI윤리 프로그램을 신설해 교육하기로 했다.

SK텔레콤도 지난 달 13일 ‘AI 추구 가치’를 발표했다. SKT는 공식 블로그를 통해 +기술 안전성 +투명성 +사생활 보호 +공정성 +사회적 가치 +무해성 +지속혁신 등 7가지를 정립해 ‘올바른 AI기업’으로 성장할 것이라고 알렸다. 또 31일 개인정보보호위원회는 개발자·자율자용 ‘AI 개인정보보호 자율점검표’를 공개하기도 했다.

[📪정보] 트위터, 외면할 수 없는 AI윤리,주요 기업에 속속 신설되는 AI윤리팀

댓글 3

다른 게시글