[📪정보] 英美 공공기관, 로봇·윤리 관련 AI 프레임워크 속속 발표

영국 보건연구원, 5일 책임감 있는 로보프레임워크
미국 회계감사원, 6일 연방정부 윤리기반 강령 공개
편견 배제·데이터 공개 필요성 강조 면에서 공통점 많아

(사진=셔터스톡).

영국과 미국 내 공공기관이 자체 AI 윤리 프레임워크를 발표하고 있다. 영국 국립보건임상연구원(NICE)은 지난 5일(이하 현지시간) 책임감있는 AI 로봇 활용을 목적으로 다섯 가지 윤리강령을 세웠다. 6일에는 미 회계감사원(GAO)이 미 정부 프로그램에서 책임감있는 AI 활용을 촉구하는 ‘책임 프레임워크’를 공개했다.

비즈니스 와이어는 5일 영국 NICE가 AI 로봇을 설계, 제작, 상용화하는 데 있어 책임감과 투명성을 증진시키기 위한 ‘로보윤리 프레임워크(Robo-Ethical Framework)’를 발표했다고 보도했다.

이 윤리 지침은 로봇 구상부터 개발까지 전 과정에 걸쳐 통용되는 기준을 수립하고, 인간과의 협업 시 기준선 역할을 담당한다. 총 다섯 가지 지침으로 구성된 프레임워크를 발표하며 NICE는 산업계 전반에서의 채택을 촉구했다. 그동안 로봇 산업에서 이 주제에 대해 많은 논의가 있었지만, 기준을 공식화하는 단계까지는 도달하지 못했기 때문이다.

인간과 로봇 사이 상호작용을 돕고 윤리적 규범을 보장하기 위한 5가지 기본 원칙은 다음과 같다.

+ 로봇은 인간사회를 긍정적으로 변화시키기 위해 설계돼야 한다. NICE는 “로봇은 인간의 성장과 복지에 기여해야 그 존재 가치가 있다”고 명시했다. 사회적·경제적·환경적 파급력을 고려해 로봇을 포함한 모든 AI 기반 프로젝트는 적어도 한 가지 명확한 긍정적 근거를 내세울 수 있어야 한다.

+ 로봇은 그 자체로 인간에 대한 편견이 없어야 한다. 로봇 개발자는 인종별 피부색부터 종교, 성별, 나이 등 사람을 평가하는 ‘속성’이 제거돼야 한다. NICE는 이를 제거한 알고리즘, 프로세스, 결정이 명확해야 한다고 강조했다.

+ 로봇은 신뢰할 수 있는 데이터 소스에 의해 구동돼야 한다. 로봇은 신뢰할 수 있는 출처의 검증된 데이터를 기반으로 작동하도록 설계돼야 한다.

+ 로봇은 전체적인 거버넌스와 제어를 통해 설계돼야 한다. NICE는 “인간은 로봇 시스템의 기능과 한계에 관한 모든 정보를 파악하고 있어야 한다”며 해킹 등 불법 액세스로부터 보호하도록 실시간 모니터링과 보안체계 업데이트를 강조했다.

배리 쿠퍼 NICE 그룹 회장은 “NICE가 미래 인류사회를 위한 로봇 사용에 앞장서고, AI 기반 혁신을 대비해 윤리적 원칙을 제시한다는 것을 자랑스럽게 생각한다”며 업계 리더들의 동참을 촉구했다. 또 “로봇 프로세스 자동화(RPA) 플랫폼 분야에서 이를 실천하는 최고의 기관으로 성장하겠다”고 덧붙였다.

미 회계감사원(GAO)도 최근 연방기관의 AI 사용 프레임워크를 개발했다. 미 정부정책 소식을 다루는 '홈랜드 시큐리티 뉴스'가 6일 보도한 바에 따르면 GAO의 프레임워크는 거버넌스, 데이터, 성능, 모니터링 등 네 가지 보완 원칙으로 구성됐다. GAO는 보고서에서 “AI는 사회적 결과에 반응할 수 없는 속도로 발전하고 있다”며 “기술이 지속적으로 발전하는 상황은 환영하지만 동시에 이같은 시스템을 독자적으로 검증하는 틀도 마련돼야 한다”고 윤리 강령을 구축한 배경에 대해 밝혔다.

이어 보고서는 그간 미국내에서 실제 범죄율과 무관하게 저소득층이나 소수 집단을 불균형하게 식별해 경찰이 개입한 사례를 나열했다. 실제로 범죄를 저지르지 않았음에도 ‘가난한 유색인종’이라는 프레임을 학습한 AI로 인한 불쾌한 사건이 속속 발생한 것이다.

GAO는 보고서에서 “경찰이 전술적인 치안 결정을 내리기 위해 편향된 AI 예측을 사용한다면, AI는 더욱 편향적 시각을 체계적으로 습득하고, 그 편견은 영구화되며 갈수록 증폭될 것”이라고 경고하고 있다.

GAO는 이 같은 차별조장을 막으려면 정부조직 차원에서 거버넌스를 구축해야 한다고 강조했다. GAO는 “조직의 가치를 통합하고, 위험성을 고려하며, AI에게 명확한 역할과 책임을 할당하고, 다원적 이해관계자를 참여시킬 것”을 명시했다.

이어 GAO는 “AI 시스템을 구현할 때 초기에 문제를 식별해 해결하고, 적합한 데이터 세트를 사용하는지 확인할 수 있도록 기술적 성과를 평가해야 한다”고 강조했다. AI 시스템을 사용 중인 기업은 위험 평가를 포함한 데이터 보안 평가를 실시하고, 데이터 보안 계획을 수립할 것도 촉구했다.

또, GAO는 국가인공지능위원회 보고서를 인용해 “인재적자는 AI 지원 기술을 구축, 배치하는 데 있어 가장 큰 걸림돌”이라며 연방정부의 인재부족 문제도 짚었다. GAO는 “완전히 새로운 인재 파이프라인을 처음부터 구축해야 한다”며 실리콘밸리 내 아프리카계 미국인 연구원 수나 여성 연구원 수가 적은 사례 등을 언급했다.

[📪정보] 英美 공공기관, 로봇·윤리 관련 AI 프레임워크 속속 발표

댓글 3

다른 게시글