[📪정보] 오픈AI, AI 브라우저 '프롬프트 공격' 방어 업데이트

[회색(counsel8318)]

https://www.aitimes.com/news/articleView.html?idxno=205031">https://www.aitimes.com/news/articleView.html?idxno=205031

오픈AI, AI 브라우저 '프롬프트 공격' 방어 업데이트 - AI타임스

오픈AI가 AI 브라우저 ‘챗GPT 아틀라스(Atlas)’의 보안 조치를 강화하고 있음에도 불구하고, 프롬프트 인젝션(prompt injection) 공격이 근본적으로 제거하기 어려운 구조적 위험 요소임을 공식적으로 인정했다.

오픈AI는 22일(현지시간) 블로그를 통해 “프롬프트 인젝션은 웹상의 사기나 소셜 엔지니어링과 마찬가지로 완전한 차단이 사실상 불가능한 문제”라고 설명했다.

특히 챗GPT 아틀라스의 ‘에이전트 모드(agent mode)’가 외부 정보와 상호작용하는 과정에서 공격 표면을 넓힐 수 있다는 점을 언급했다. 프롬프트 인젝션은 웹페이지나 이메일 등에 숨겨진 명령을 통해 AI 에이전트의 행동을 왜곡하거나 조종하는 수법으로, 오픈AI는 이를 단기 대응이 아닌 장기적인 AI 보안 과제로 보고 지속적인 방어 체계 고도화가 필요하다고 강조했다.

출처 : AI타임스(https://www.aitimes.com)

[디시콘발사대(fcbjsjmu1t9f)]

휴머노이드에서도 일어날 수 있는 일이니 미리 맞고 대응해놔야지