[📪정보] 인공지능의 보안 측면에서의 치명적 한계 : 학습 과정의 개입

[익명(112.184)]

인공지능과 머신러닝 시스템 중 실제 데이터를 통해 훈련이 되도록 설계된 알고리즘들이 사이버 공격에 농락당하는 사례가 점점 늘어나고 있다. 최근 열린 머신러닝 보안 경연 대회인 MLSEC 2022에서 참가자들은 유명 인사들의 사진을 학습하는 머신러닝 알고리즘을 감염시킴으로써 사진 속 인물을 다른 사람으로 인식하도록 만드는 데 성공했다. 대부분 두 사진을 합치거나 원래 이미지 안에 작은 그림을 하나 삽입하는 것만으로 학습 과정을 망가트릴 수 있었다고 한다.


또, MIT와 캘리포니아대학, FAR AI의 연구원들은 최첨단 바둑 인공지능을 간단하게 격파하는 방법을 발견하기도 했다. 게임이 종료됐다고 기계를 속이는 방법으로, 더 이상 인간이 기계를 이길 수 없다고 하는 바둑에서 간단히 성과를 거둔 것이다. 물론 순수 바둑으로 정당하게 이긴 건 아니지만, 사람이 아니라 기계이기 때문에 생기는 허점을 노린 것이라고는 볼 수 있다.


이렇게 인공지능의 학습 과정 자체에 개입하여 인공지능이 엉뚱한 결과를 내도록 만드는 식의 공격은 인공지능 기술이 가진 한계를 명확히 드러낸다. “인공지능은 학습의 과정을 거쳐야 하며, 학습은 각종 데이터를 주입함으로써 이뤄지는데, 그 데이터를 살짝 오염시키기만 하면 인공지능이 이상하게 작동하도록 강제할 수 있다는 것이죠.” 캘리포니아대학에서 인공지능 분야 박사 과정을 밟고 있는 아담 글리브(Adam Gleave)의 설명이다.





http://m.boannews.com/html/detail.html?idx=111914