[📰소식] 음모론에서 사람들을 설득할 수 있는 가능성을 보여주는 AI 챗봇

[익명(175.115)]

https://youtu.be/Fsppuynb440

https://www.science.org/content/article/ai-chatbot-shows-promise-talking-people-out-conspiracy-theories

Just a moment...

달 착륙이 가짜라거나 코로나19 백신이 마이크로칩으로 가득 차 있다고 생각하는 사람을 알고 있을 것입니다. 이러한 음모론을 믿는 사람들은 반대되는 증거가 제시되더라도 현실에 근거가 거의 없는 음모론에 집요하게 집착합니다. 그러나 오늘 사이언스지에 발표된 연구에 따르면, 사실에 근거한 주장을 다른 사람이 아닌 인공지능(AI) 챗봇이 전달하면 일부 사람들은 생각을 바꾼다고 합니다. 연구진은 이 'debunkbot'과의 개인화된 대화가 하드코어 음모론자조차도 신진 회의론자로 바꿀 수 있다고 보고합니다.

이번 연구에 참여하지 않은 암스테르담 자유대학의 행동 과학자 Jan-Willem van Prooijen은 “잘못된 정보와 음모론에 맞서 싸우는 데 AI가 어떤 역할을 할 수 있는지 확인하는 것은 정말 유망한 일입니다.”라고 말합니다. 특히 딥페이크 등을 통해 허위 사실을 퍼뜨리는 것으로 악명 높은 제너레이티브 AI가 선의의 힘으로 활용되는 것을 보고 Van Prooijen은 “신선하다”고 말합니다.

일부 추정에 따르면 미국 인구의 거의 절반이 CIA가 존 F. 케네디 전 대통령을 암살했다는 믿음이나 51구역에 외계인 시체가 있다는 믿음 등 다양한 음모론을 믿고 있다고 합니다. 많은 심리학자들은 이러한 믿음이 안전에 대한 욕구와 같은 근본적인 심리적 욕구를 충족시키는 데 도움이 된다고 생각합니다. 그러나 이러한 '지하 동기'에 대한 가설은 검증하기 어렵다고 미국 대학의 심리학자이자 새로운 연구의 수석 저자인 Thomas Costello는 말합니다. 새로운 연구 결과는 “이러한 가설이 전부가 아니라는 최초의 강력한 증거 중 하나”이며 “어쩌면 완전히 틀렸을 수도 있다”고 그는 말합니다.

실생활에서 음모론에 대해 토론할 때, 신자들은 종종 기쉬 갤럽이라고 알려진 기법으로 가능한 한 많은 논거를 빠르게 제시하여 반대자들을 압도하려고 시도합니다. 인간은 이러한 모든 주장을 한꺼번에 다룰 수 없지만, 인공지능 프로그램은 인식적으로 가능합니다. Costello와 그의 동료들은 단 몇 초 만에 엄청난 양의 정보를 처리하고 생성하는 GPT-4 Turbo와 같은 대규모 언어 모델(LLM)이 “맞춤형 설득”으로 음모론을 반박할 수 있는지 알고 싶었습니다.

연구팀은 케네디 암살이나 코로나19 팬데믹과 같은 중요한 사건이나 상황이 강력한 사람이나 조직에 의해 비밀리에 조율되었다고 믿는 음모론을 하나 이상 믿는다고 고백한 2,000명 이상의 참가자를 모집했습니다. 그런 다음, 연구팀은 이 사람들에게 LLM 챗봇과 간단한 대화를 나누게 했습니다. 각 사람은 자신이 믿는 이론과 이를 뒷받침하는 증거를 AI와 공유하고, 그 이론이 사실이라고 얼마나 확신하는지 평가했습니다. 책, 온라인 토론 및 기타 출처에서 공개적으로 이용 가능한 광범위한 정보를 학습한 챗봇은 구체적인 사실에 기반한 반론으로 각 주장을 반박했습니다. 이러한 대화를 통해 음모론에 대한 사람들의 신뢰도가 평균 20% 감소했습니다.

이러한 신뢰도 감소는 최대 2개월까지 지속되는 놀라운 지속성을 보였으며, 다양한 음모론에 걸쳐 효과가 있는 것으로 나타났습니다. 이 연구에 참여하지 않은 조지 워싱턴 대학교의 정치학자이자 허위 정보 연구자인 Ethan Porter는 “오랫동안 효과가 지속되었다는 점이 가장 놀라웠다”고 말합니다.

Debunkbot이 성공한 이유 중 하나는 비슷한 주제에 대한 인간과의 대화가 쉽게 “격렬하고 무례해질 수 있는” 반면, 반박봇은 “매우 정중하게” 대화하기 때문이라고 Van Prooijen은 설명합니다. 또한 친구나 가족이 자신의 신념을 바꿨다고 비난할까 봐 걱정할 수도 있지만, AI 모델 앞에서는 “체면을 잃는 것은 불가능하다”고 그는 덧붙입니다.

Costello와 그의 동료들은 사실에 기반한 반론을 제시하지 않은 채 참가자와 대화하는 챗봇으로 실험을 반복했지만 아무런 효과를 보지 못했으며, 이는 증거 제시가 중요하다는 것을 시사합니다. “사실 없이는 챗봇이 제 역할을 할 수 없었습니다."라고 Costello는 말합니다.

하지만 취리히 대학교의 허위 정보 연구자인 Federico Germani는 수사학이 설득에 매우 중요할 수 있다고 말합니다. LLM은 실제 대화에서 훈련을 받기 때문에 순전히 사실에만 의존하도록 지시하는 경우에도 자신의 주장을 더 설득력 있게 만드는 미묘한 수사학적 전략을 파악할 수 있다고 그는 설명합니다. “저자들은 아마도 그 행간 사이사이에서 인공지능이 조작에 매우 능숙하다는 점을 과소평가하고 있는 듯 하다."라고 그는 말합니다.

켄트 대학교의 심리학자들은 공동 성명서를 통해 이 연구 결과가 음모론이 충족되지 않은 심리적 욕구를 충족시킨다는 통념을 뒤집는 것인지에 대해 의문을 제기했습니다. Aleksandra Cichocka, Robbie Sutton, Karen Douglas 는 공동 성명에서 연구 저자들이 참가자들이 챗봇과 대화한 후 욕구가 충족되었다고 느꼈는지 여부를 직접 측정하지 않았기 때문에 그것이 그들의 마음 변화에 영향을 주었는지 여부를 알 수 없다고 말합니다. 실제로 피험자들은 AI가 자신의 이론을 반박하려고 시도한 후에도 여전히 자신의 이론에 상당한 확신을 가지고 있었으며, 이는 이러한 근본적인 동기가 여전히 그들의 믿음에 강력한 역할을 하고 있음을 시사합니다.

음모론자들이 자발적으로 debunkbot과 교류할 가능성은 낮지만, Germani와 Van Prooijen은 AI가 기존의 기술적 대응을 강화할 수 있다고 지적합니다. 많은 소셜 미디어 사이트에서는 이미 X의 커뮤니티 노트 기능과 같이 잠재적인 허위 정보를 표시하는 전략을 시행하고 있으며, 이 새로운 모델은 이를 반박하는 추가 정보를 제공할 수 있습니다.

또한 사람들은 debunkbot을 사용하여 새로운 주장을 빠르고 철저하게 팩트 체크함으로써 건전한 수준의 회의론을 키우고 향후 잘못된 정보의 함정에 빠질 가능성을 줄일 수 있다고 Costello는 말합니다. “이러한 챗봇은 일종의 인식 위생이라고 생각하면 됩니다.” 그는 ‘양치질을 하는 것과 마찬가지로 정신에 대한 위생’이라고 설명합니다.

[익명(sell6610)]

역시 케이키님