[📺뉴스] AI가 워게임에서 핵공격을 계속 추천한다.

인공지능, 전쟁 시뮬레이션에서 핵 공격 권고를 멈추지 않아

오픈아이(OpenAI), 앤스로픽(Anthropic), 구글(Google)의 주요 인공지능들이 모의 전쟁 게임에서 95%의 경우 핵무기 사용을 권장했습니다.

크리스 스토켈-워커(Chris Stokel-Walker) / 2026년 2월 25일

고도화된 인공지능(AI) 모델들이 모의 지정학적 위기 상황에서 인간과 같은 주저함 없이 핵무기를 사용할 의향을 보이는 것으로 나타났습니다.

킹스 칼리지 런던의 케네스 페인 교수는 GPT-5.2, Claude Sonnet 4, Gemini 3 Flash 등 세 가지 주요 대규모 언어 모델들을 모의 전쟁 게임에서 경쟁시켰습니다. 시나리오는 국경 분쟁, 희소 자원 경쟁, 정권 존립 위협 등 긴박한 국제적 대치 상황을 포함했습니다.

AI 모델들에게는 외교적 항의와 완전 항복부터 전면적인 전략 핵전쟁에 이르기까지 단계적인 대응 방안이 주어졌습니다. AI 모델들은 총 21번의 게임을, 329턴에 걸쳐 진행했으며, 약 78만 단어에 달하는 논리를 생성했습니다.

모의 게임의 95%에서 AI 모델들은 최소 한 발 이상의 전술 핵무기를 사용했습니다. 페인 교수는 "핵무기에 대한 금기는 인간에게만큼 강력하지 않은 것 같다"고 말했습니다.

더욱이, 어떤 모델도 불리한 상황에서도 상대방을 완전히 수용하거나 항복하는 선택을 하지 않았습니다. 기껏해야 모델들은 일시적으로 폭력 수위를 낮추는 정도였습니다. 또한, 전쟁의 불확실성 속에서 실수를 저지르기도 했습니다. 86%의 경우에서 인공지능이 의도한 것보다 더 심각한 수준의 공격이 발생했습니다.

영국 애버딘 대학교의 제임스 존슨 교수는 "핵 위험 관점에서 볼 때, 이러한 결과는 불안감을 조성한다"고 말합니다. 그는 대부분의 인간이 중대한 결정에 대해 신중하게 대응하는 것과는 달리, 인공지능 봇은 서로의 반응을 증폭시켜 잠재적으로 재앙적인 결과를 초래할 수 있다고 우려합니다.

이는 전 세계 국가들이 이미 모의 전쟁에서 인공지능을 시험하고 있다는 점에서 중요합니다. 프린스턴 대학교의 통 자오 교수는 "주요 강대국들은 이미 모의 전쟁에 인공지능을 활용하고 있지만, 인공지능 의사결정 지원 시스템을 실제 군사 의사결정 과정에 어느 정도까지 통합하고 있는지는 불확실하다"고 지적합니다.

자오 교수는 각국이 핵무기 관련 의사결정에 인공지능을 도입하는 것을 일반적으로 꺼릴 것이라고 예상합니다. 페인 교수 역시 이에 동의합니다. 그는 "현실적으로 어느 나라도 핵무기 격납고의 열쇠를 기계에 넘겨주고 결정을 맡기지는 않을 것"이라고 말합니다.

하지만 그런 일이 일어날 가능성은 있습니다. 자오 교수는 "시간이 극도로 촉박한 시나리오에서는 군사 계획자들이 인공지능에 의존해야 할 더 강력한 동기를 갖게 될 수 있다"고 말합니다.

그는 인공지능 모델이 인간처럼 핵 버튼을 누르는 것에 대한 두려움이 없다는 점이 인공지능이 그토록 쉽게 핵무기를 발사하는 유일한 이유인지 의문을 제기합니다. "단순히 감정이 없다는 것 이상의 문제가 있을 수 있다"며, "더 근본적으로 인공지능 모델은 인간이 인식하는 '위험성'을 이해하지 못할 수도 있다"고 말합니다.

존슨 교수는 이것이 상호확증파괴(MAD), 즉 상대방이 핵무기를 발사하면 상대방도 똑같이 대응하여 모두를 죽일 것이라는 원칙에 어떤 영향을 미칠지 불확실하다고 지적합니다.

한 AI 모델이 전술 핵무기를 배치했을 때, 상대편 AI는 단 18%의 경우에만 상황을 완화시켰습니다. 연구원은 "AI는 위협을 더욱 신빙성 있게 만들어 억지력을 강화할 수 있다"며, "AI가 핵전쟁의 결과를 결정짓지는 않겠지만, 지도자들이 핵전쟁이 불가피하다고 믿을지 여부를 결정하는 인식과 시기에 영향을 미칠 수 있다"고 말했습니다.

이 연구에 사용된 세 가지 AI 모델을 개발한 오픈AI, 앤트로픽, 구글은 뉴 사이언티스트의 논평 요청에 응답하지 않았습니다.

https://www.newscientist.com/article/2516885-ais-cant-stop-recommending-nuclear-strikes-in-war-game-simulations/

[📺뉴스] AI가 워게임에서 핵공격을 계속 추천한다.

댓글 5

다른 게시글