국정원은 지난 20일 ‘인공지능(AI) 위험 사례집’을 발간하고, AI 기술이 국가안보·재난·산업경제·사회·민생 등 전 분야에서 야기할 수 있는 잠재적 위험 70건을 공개했다. 국정원은 이번 사례집을 “AI로 촉발될 수 있는 사고를 미리 예측해 대응 전략 수립에 참고하도록 마련한 것”이라고 설명했다.
사례집은 AI 확산 과정에서 ‘내부 작동의 불투명성’, ‘데이터 편향’, ‘보안 체계 미흡’, ‘윤리 기준 부재’ 등 구조적 취약성이 중첩되면서 향후 국가적 사고로 번질 수 있다고 지적한다. 이러한 문제 의식을 바탕으로 국정원은 전체 위험을 국가안보·재난·경제·사회 등 4개 분야로 나눴다. 각 사례는 다시 ▲AI 자체 오류(의도와 다르게 작동해 착오·통제 상실을 일으키는 문제) ▲오용·악용(사용자가 AI를 공격·무기화·감시에 이용하는 경우) ▲AI 대상 공격(해커가 AI 시스템을 교란·침입해 조작하는 방식) ▲사회 구조 변화(AI 확산으로 인권침해·불평등이 심화되는 현상) 등 4가지 유형으로 분류됐다.
이번 사례집이 소개한 70개 위험 가운데 상당수가 해킹·사이버공격·정보조작·인프라 교란 등 보안 위협에 집중돼 있다는 점이 눈여겨볼 대목이다. 최근 국내 통신·금융·의료 분야에서 관찰되는 공격 흐름과도 맞물리기 때문이다.
AI 해킹봇이 국가 기간망까지 노려
댓글 0