[📺뉴스] WP> 허위 정보 전파에 AI를 사용하는 러시아와 이란

[조선닌자핫토리(ninetail)]

https://apple.news/A8YMhZ4L_Sduf223M5NMa9w

Opinion | From Iran and Russia, the disinformation is now. The target is America. — The Washington Post

이란과 러시아발 허위정보, 지금 미국을 겨냥하다

AI 도움받은 러시아, 악의적 영향력 캠페인 한층 강화

인공지능 기업 오픈AI는 지난 금요일, 자사의 챗GPT 도구를 이용한 이란의 은밀한 캠페인을 차단했다고 밝혔다. 이 캠페인은 양당 정치인들에 대한 소셜미디어 게시물과 장문의 기사를 작성해 미국 유권자들에게 영향을 미치려 했으며, 더욱 진실해 보이도록 패션과 뷰티에 관한 언급도 덧붙였다. 이번 차단은 지난 8월 9일 마이크로소프트 위협분석센터가 "이란 행위자들이 최근 미국 대중을 겨냥한 영향력 작전의 토대를 마련했다"고 경고한 내용을 일부 근거로 삼았다.

이는 2016년 대선 당시 외국 세력이 미국 민주주의에 개입하려 했던 일의 재현으로 보인다. 그리고 이란만이 아니다. 러시아 역시 적극 가담하고 있으며, AI 덕분에 그 규모와 정교함이 크게 증대됐다.

이란의 시도에 대한 자세한 내용이 드러나는 가운데 다음 사례를 주목할 만하다. 지난해 소셜미디어에서 '수 윌리엄슨'이라는 인물이 블라디미르 푸틴 러시아 대통령의 영상을 게시했다. 푸틴은 이 영상에서 우크라이나 전쟁이 영토 분쟁이나 지정학적 균형의 문제가 아니라 "새로운 세계 질서가 기반할 원칙"이라고 밝혔다. 윌리엄슨의 계정에는 그녀가 미소 짓는 사진이 있었지만, 실제로 그녀는 존재하지 않았다. 법무부에 따르면, 그녀는 미국과 다른 국가들에 불화를 조장하기 위해 생성형 AI를 사용해 만들어진 러시아의 디지털 전사, 즉 봇이었다.

FBI가 이번 여름 제출한 법원 문서에 따르면, '수 윌리엄슨'은 러시아가 소셜미디어 플랫폼 X에 만든 968개의 봇 중 하나였다. 멜리오레이터라는 은밀한 AI 소프트웨어로 조립된 이 봇들은 세계 사건에 신속히 대응하도록 프로그래밍될 수 있으며 겉모습도 진짜처럼 보인다. 과거 인터넷상의 악의적 영향력 캠페인은 인간의 노력과 시행착오가 필요했지만, 이제 러시아는 이 과정을 한층 강화해 고속으로, 그리고 산업적 규모로 허위정보를 퍼뜨릴 수 있게 됐다.

FBI가 밝힌 세부 사항은 이 작전이 크렘린과 연관됐음을 보여준다. 이 봇 농장은 러시아 국영 TV 선전 네트워크인 RT의 부편집장이 소련 KGB의 후신인 연방보안국(FSB)의 도움을 받아 조직했다. 봇 농장은 봇 캐릭터들에게 '영혼'과 '생각'을 프로그래밍해 실제처럼 보이게 하는 소프트웨어를 사용했다. 다음으로 러시아는 미국 기반 제공업체로부터 도메인 이름을 확보해 통제함으로써 이메일을 이용해 수백 개의 가짜 소셜미디어 계정을 만들어냈다. 이 계정들은 '담장 너머 대화' 스타일로 영향력을 행사했다.

에이브릴 헤인스 국가정보국장은 5월 15일 의회에서 중국, 러시아, 이란이 주요 위협이지만 러시아가 가장 활발하다고 밝혔다. 베아트리즈 사브가 국립민주주의기금(NED)을 위해 6월 작성한 보고서는 AI가 "권위주의 세력이 대량으로 조작된 콘텐츠를 제작하고 퍼뜨리는 데 드는 비용, 시간, 노력을 줄여주고 있다"고 경고했다. 이는 "반대자들을 비방하고 동맹을 선전하며 민주사회의 분열을 심화시키는 것"이 목적이라고 덧붙였다. 프리덤하우스는 10월 연례 보고서에서 지난 1년간 "최소 16개국에서 새로운 기술이 의혹을 심고, 반대자를 비방하거나 공론화에 영향을 미치는 데 사용됐다"고 밝혔다.

미국을 비롯한 개방 사회는 방심해서는 안 된다. 다행히 최근 러시아의 캠페인은 미국, 캐나다, 네덜란드의 법 집행 및 정보 기관에 의해 적발됐다. 해당 도메인들은 자금세탁 혐의로 압류됐다. 하지만 아직 발각되지 않은 다른 영향력 캠페인들이 많이 있을 가능성이 크며, 현행법으로는 이 모두를 적발하거나 저지하는 것이 불가능하다. 결국 개방 사회는 자유로운 표현과 토론을 허용함으로써 그 명칭을 얻게 된 것이다.

전략국제문제연구소(CSIS)의 에밀리 하딩은 "미국 정부가 봇 농장을 차단하는 데 있어 산업계에 크게 의존하고 있다"고 지적한다. 일부 플랫폼은 노력을 기울이고 있지만, 다른 곳들은 효과가 없거나 아예 시도조차 하지 않는 것으로 보인다. 외국의 영향력 캠페인에 대항하는 미국 정부의 노력은 여전히 자금과 인력이 부족한 상태다. 심지어 국무부의 글로벌 인게이지먼트 센터는 의회로부터 폐지 위협을 받고 있다.

모든 봇이나 허위정보가 실제로 효과를 발휘하는 것은 아니다. 오픈AI는 최근 이란의 시도가 아마도 실패했을 것이며 많은 사람에게 도달하지 못했을 것이라고 말했다. 그러나 새로운 악의적 영향력 캠페인의 물결이 감지되지 않은 채 의심 없는 유권자들의 마음을 흔들 수 있다. 어떻게 대응해야 할까? 한 가지 방법은 플랫폼들이 AI의 힘을 역이용해 허위정보의 홍수에 맞서는 것이다. 이 기술을 사용해 캠페인을 발견하고 폭로하는 것이다. 의회는 시민들이 속지 않도록 경고하는 프로그램에 자금을 지원하고 개선해야 한다. 그리고 모든 이는 블라디미르라는 사람의 선전을 퍼뜨리는 수라는 이름의 낯선 이들을 경계해야 한다. 그는 실제로 존재하는 인물이다.

민주주의는 어둠 속에서 죽는다

© 1996-2024 워싱턴포스트

이 문서는 Claude 3.5 Sonnet을 이용해 번역되었습니다.

[익명(121.164)]

앞으로는 야동도 AI가 대세가 될지도 모르겠음 저런 봇도 유명한거 있으면 야동으로 만들어서 러시아에 역수출 해줘야겠음

[DotaBlue(355z472dlgb5)]

그거 이미 중국애들이 열쉬미 준비한다는 얘길 듣긴 했......................

[조선닌자핫토리(ninetail)]

이미 야짤은 자급자족 하는 사람 많지 않음?