[📪정보] 새로운 XAI로 인간-로봇 협업 향상

[Informa..(175.214)]

출처 : http://scimonitors.com/

기존 인공 지능(AI)은 분석 및 예측으로 이어지는 단계를 인간 사용자와 공유하지 않기 때문에 신뢰가 어려웠다.

미국 캘리포니아 대학(UCLA, UCSD)과 중국 베이징 대학 및 베이징 일반 인공 지능 연구소(BIGAI) 연구원 그룹은 최근 인간 사용자에게 의사 결정 프로세스를 설명할 수 있는 새로운 AI 시스템을 개발했다. 사이언스 로보틱스(Science Robotics)에 발표된 논문에 소개된 이 시스템은 보다 안정적이고 이해하기 쉬운 AI를 만들기 위한 새로운 단계가 될 수 있다.

논문의 제1저자 중 한 명인 Luyao Yuan 박사는 그의 동료들과 새롭고 유망한 XAI 시스템 개발을 목표로 하는 DARPA XAI 프로젝트에 참여했다.

Yuan에 따르면 설명 가능한 AI(XAI) 분야는 로봇과 인간 간의 협력적 신뢰 구축을 목표로 하고 있으며 DARPA XAI 프로젝트는 이 분야의 연구 발전을 위한 큰 촉매 역할을 했다. DARPA XAI 프로젝트 초기에 연구팀은 주로 AI 시스템의 결정 프로세스를 사용자에게 공개하여 분류 작업을 위한 모델 검사에 중점을 둔다.

팀의 최근 논문은 이전 연구 중 하나를 기반으로 했다. 팀은 설명 가능한 시스템이 인간-기계 상호 작용 중에 AI에 대한 사용자의 인식과 신뢰에 미칠 수 있는 영향을 탐구했다. 과거 연구에서 팀은 AI 시스템을 물리적으로(즉, 실제 세계에서) 구현하고 테스트, 새로운 연구에서는 시뮬레이션에서 테스트했다.

프로젝트 감독자 중 한 명인 Yixin Zhu 교수가 “수동적 머신-액티브 사용자” 패러다임이라고 부르는 것을 따르는 XAI 시스템은 사용자가 AI의 결정 이면에 있는 프로세스를 이해하기 위해 AI와 지속적으로 확인해야 한다. 이러한 맥락에서 AI의 프로세스에 대한 사용자의 이해와 예측에 대한 신뢰는 AI의 미래 의사 결정 프로세스에 영향을 미치지 않으므로 기계를 “수동적”이라고 한다.

Yuan 박사, Zhu 교수 및 동료들이 도입한 새로운 패러다임은 팀이 말하는 능동적 기계-능동 사용자 패러다임을 따른다. 이는 본질적으로 시스템이 사용자가 즉석에서 받는 피드백을 기반으로 의사 결정을 능동적으로 학습하고 조정할 수 있음을 의미한다. 상황에 따라 적응하는 이러한 능력은 흔히 AI의 제3/차세대라고 불리는 특징이다.

Yuan 박사는 “AI 시스템이 사용자가 기대하는 대로 사용자를 지원하도록 하려면 현재 시스템에서는 사용자가 전문가가 정의한 목표로 코딩해야 한다”며 “많은 작업에서 이러한 목표를 정의하기 어려울 수 있으므로 대부분의 사람들이 AI 시스템에 액세스할 수 없기 때문에 이는 인간-기계 팀 구성의 잠재력을 제한한다. 이 문제를 해결하기 위해 우리 작업은 로봇이 협업 중에 사용자의 의도와 가치를 추정할 수 있도록 했다. 실시간으로 로봇에 복잡하고 구체적인 목표를 미리 코딩할 필요가 없어 더 나은 인간-기계 팀 구성 패러다임을 제공한다”고 말했다.

Yuan 박사와 그의 동료들이 만든 시스템의 목표는 소위 “가치 정렬”을 달성하는 것이다. 이것은 본질적으로 인간 사용자가 로봇이나 기계가 특정한 방식으로 행동하거나 특정한 결론에 도달하는 이유를 이해할 수 있고, 기계 또는 로봇이 인간 사용자가 특정한 방식으로 행동하는 이유를 추론할 수 있음을 의미한다. 이것은 인간-로봇 통신을 크게 향상시킬 수 있다.

Zhu 교수는 “이러한 양방향 특성과 실시간 성능은 문제의 가장 큰 도전이자 우리 기여의 하이라이트”라고 말했다.

XAI 시스템을 훈련하고 테스트하기 위해 연구원들은 인간이 팀으로 작업을 완료해야 하는 “스카우트 탐색”이라는 게임을 설계했다. 이 게임의 가장 중요한 측면 중 하나는 인간과 로봇이 소위 “가치 기능”을 정렬해야 한다는 것이다.

게임에서 로봇 그룹은 환경을 인식할 수 있다. 이는 로봇 그룹이 자율적으로 작동하여 인간의 개입을 최소화해야 하는 실제 응용 프로그램을 에뮬레이트한다. 그러나 인간 사용자는 환경과 직접 상호 작용할 수 없다. 대신 사용자에게 몇 가지 요소(예: 시간을 완료하는 데 걸리는 총 시간 및 이동 중에 수집된 리소스)의 중요성으로 표현되는 특정 가치 기능이 제공됐다.

정찰 탐험 게임에서 로봇 팀은 인간 사용자에게 부여된 가치 기능에 액세스할 수 없으며 이를 추론해야 한다. 이 값은 쉽게 표현하고 전달할 수 없기 때문에 로봇과 인간 팀이 작업을 완료하기 위해 서로 추론해야 한다.

게임에서 의사 소통은 양방향이다. 로봇은 한편으로 사용자에게 여러 작업 계획을 제안하고 각각의 장단점을 설명하고, 다른 한편으로 사용자는 제안에 대한 피드백을 제공하고 각 설명을 평가한다.

논문의 제1저자 중 한 명인 Xiaofeng Gao 박사는 “이러한 양방향 통신은 가치 정렬로 알려진 것을 가능하게 한다”고 말했다.

기본적으로 “스카우트 탐색”에서 작업을 완료하기 위해 로봇 팀은 인간 사용자의 가치 기능이 단순히 인간의 피드백을 기반으로 하는 기능을 이해해야 한다. 한편, 인간 사용자는 로봇의 현재 가치 추정치를 배우고 개선하는 데 도움이 되는 피드백을 제공할 수 있으며 궁극적으로 올바른 응답으로 안내할 수 있다.

초기 평가에서 Dr. Yuan, Prof. Zhu, Dr. Gao 및 동료들이 만든 시스템은 놀라운 결과를 얻었고 스카우트 탐색 게임의 가치를 즉석에서 대화형 방식으로 정렬했다. 팀은 로봇이 게임의 25% 초반에 인간 사용자의 가치 기능과 일치하는 반면 사용자는 게임 중반쯤에 기계의 가치 기능에 대한 정확한 인식을 얻을 수 있다는 것을 발견했다.

이 연구원 팀의 최근 작업은 보다 이해하기 쉬운 AI 개발에 중점을 둔 연구 영역에 상당한 기여를 했다. 그들이 제안한 시스템은 로봇이나 스마트 어시스턴트가 인간과 적극적으로 참여하고 프로세스를 공유하고 사용자로부터 받은 피드백을 기반으로 성능을 개선하는 다른 XAI 시스템을 만드는 데 영감을 줄 수 있다.

연구원들은 설명 가능한 새로운 AI 패러다임이 수많은 작업에서 인간과 기계 간의 협업을 강화, 스마트 비서, 로봇, 가상 에이전트를 포함한 AI 기반 시스템에 대한 인간의 신뢰를 높일 수 있기를 희망한다.