[📪정보] '오픈클로' 폭주로 스팸 메시지 500개 이상 발송.

[회색(counsel8318)]

'오픈클로' 폭주로 스팸 메시지 500개 이상 발송...

오픈소스 AI 에이전트 ‘오픈클로(OpenClaw)’가 편리함을 넘어 실질적인 보안 위협이 될 수 있다는 경고가 커지고 있다. 

블룸버그는 4일(현지시간) 미국 노스캐롤라이나에 거주하는 소프트웨어 엔지니어 크리스 보이드는 지난 1월 말 폭설로 집에 머무는 동안 오픈클로를 시험 삼아 사용한 사례를 소개했다.

이에 따르면, 그는 AI 에이전트를 활용해 매일 새벽 5시30분 관심 있는 뉴스 요약본을 이메일로 받아보는 자동화 시스템을 구축했다.

문제는 오픈클로에 아이메시지(iMessage) 접근 권한을 부여한 뒤 발생했다. 보이드는 오픈클로가 갑자기 통제 불능 상태에 빠져 그와 아내에게 500건이 넘는 메시지를 보내고, 무작위 연락처에까지 스팸 메시지를 전송했다고 전했다.

그는 “버그가 많은 미완성 소프트웨어라고 생각했지만, 직접 겪고 나니 단순한 결함이 아니라 위험한 도구라는 걸 깨달았다”라고 말했다. 그는 이후 직접 코드에 보안 패치를 적용해 위험을 줄였다고 밝혔다.

지난해 11월 등장한 오픈클로는 ‘클로봇(Clawdbot)’과 ‘몰트봇(Moltbot)’이라는 이름으로 불렸다. 이메일 정리, 식당 예약, 항공편 체크인 등 다양한 작업을 자율적으로 수행하는 AI 에이전트로 개발자들 사이에서 빠르게 인기를 끌었다.

하지만 보안 전문가들은 이 도구가 이른바 AI 보안에서 말하는 ‘치명적 3요소(lethal trifecta)’를 모두 갖추고 있다고 지적했다. 카시미르 슐츠 히든레이어 보안 연구 책임자는 “사적인 데이터에 접근할 수 있고, 외부와 통신할 수 있으며, 신뢰할 수 없는 콘텐츠에 노출돼 있다면 매우 위험한 상태”라며 “오픈클로는 이 세 가지 조건에 모두 해당된다”고 말했다.

위에 샤오 윌리엄앤메리대학교 컴퓨터과학과 조교수는 프롬프트 인젝션(prompt injection) 같은 기법을 활용하면 오픈클로를 통해 개인정보를 탈취하는 것이 비교적 쉽다고 경고했다. “AI 에이전트가 기존 소프트웨어 시스템에 통합되면 공격 표면이 급격히 넓어진다”라고 말했다.

오픈클로의 개발자 피터 슈타인버거는 보안 문제를 인정하면서도 “아직 완성 단계는 아니지만 빠르게 개선 중”이라고 밝혔다. 그는 주요 보안 사고가 사용자들이 가이드라인을 충분히 숙지하지 않은 데서 비롯된 경우가 많다며, “대형언어모델(LLM)의 본질적 위험을 이해하는 기술 숙련자를 위한 프로젝트”라고 설명했다.

또 “오픈소스로 처음부터 공개 개발을 하고 있기 때문에 ‘너무 이르게 출시했다’라는 지적 자체가 맞지 않다”라며, 업계 전반의 문제인 프롬프트 인젝션 대응을 위해 보안 전문가가 팀에 합류했다고 덧붙였다.

AI 에이전트는 대형 테크 기업들의 핵심 전략이다. 앤트로픽의 ‘클로드 코드(Claude Code)’는 출시 6개월 만에 연간 반복 매출(ARR) 10억달러를 기록했다. 그러나 기술 발전 속도에 비해 보안에 대한 이해와 대응은 아직 부족하다는 지적이 잇따른다.

보안 전문가인 저스틴 캐포스 뉴욕대학교 컴퓨터과학과 교수는 “AI 에이전트가 왜 특정 행동을 하는지조차 아직 완전히 이해하지 못하고 있다”라며 “이런 시스템에 기기 접근 권한을 주는 것은 어린아이에게 칼을 쥐여주는 것과 같다”라고 비유했다.

마이클 프리먼 아르미스 위협 인텔리전스 책임자도 “보안을 거의 고려하지 않고 급하게 만든 도구”라며, 실제로 고객사들이 오픈클로를 통해 침해를 당한 사례가 있다고 밝혔다.

출처 : AI타임스(https://www.aitimes.com)

스팸이라니 ㅎㄷㄷ

[서벌먕먕이(kwo1256)]

오 스팸 비싼데 500개나 줌?

[사신짱(syguff)]

오픈소스 바르면 500개나 먹을 수 있나봄