[📪정보] 구글, 세계 최초로 AI 에이전트가 제로데이 취약점을 발견했다고 발표

[익명(prince2317)]

* 제로데이 취약점 : 특정 소프트웨어의 아직까지 공표되지 않은, 혹은 공표되었지만 아직까지 패치되지 않은 보안 취약점을 이용한 해킹의 통칭.

한 AI 에이전트가 널리 사용되는 실제 소프트웨어에서 이전에 알려지지 않은 제로데이 익스플로잇이 가능한 메모리 안전 취약점을 발견했습니다. 이 취약점을 발견한 대규모 언어 모델 지원 취약점 에이전트인 Big Sleep의 개발사인 Google의 Project Zero와 DeepMind에 따르면 이 취약점은 적어도 공개된 첫 번째 사례입니다.

11월 1일 발표에서 Google의 프로젝트 제로 블로그는 프로젝트 Naptime 대규모 언어 모델 지원 보안 취약점 연구 프레임워크가 Big Sleep으로 발전했음을 확인했습니다.

프로젝트 제로의 일원으로 최고의 윤리적 해커들과 구글 딥마인드의 일원으로 최고의 AI 연구원들이 참여한 이 공동 노력은 널리 사용되는 코드에서 실제 보안 취약점을 발견할 수 있는 대규모 언어 모델 기반 에이전트를 개발했습니다. 세계 최초로 발견된 이 취약점의 경우, Big Sleep 팀은 "널리 사용되는 오픈 소스 데이터베이스 엔진인 SQLite에서 악용 가능한 스택 버퍼 언더플로우를 발견했다"고 말합니다.

이 제로데이 취약점은 10월에 SQLite 개발팀에 보고되었고, 같은 날 수정되었습니다. Google의 Big Sleep 팀은 "이 문제가 공식 릴리스에 나타나기 전에 발견했다"며 "따라서 SQLite 사용자들은 영향을 받지 않았다"고 말했습니다.

포브스 전문 확인 - Google Claims World First As AI Finds 0-Day Security Vulnerability

* GitHub - protectai/vulnhuntr: Zero shot vulnerability discovery using LLMs

클로드의 에이전트가 12개의 제로데이 보안 취약점을 먼저 발견하여 최초는 아니라는 주장이 있음

[익명(175.206)]

................!?

[냥쁨(graduate5400)]

[은바다(nmra3fmzhxmg)]

이렇게 더 발전하면 해킹 자체가 사실상 불가능에 가까워지려나요 ㄹㅇ

[은바다(nmra3fmzhxmg)]

아무리 똑똑한 천재 집단들이 모여서 해킹 시도하려는데 이미 발전된 인공지능 덕분에 뚫을 수 있는 빈틈조차 안보이게 될테니 기대되는듯

[XI(musician3372)]

괜찮음 해커도 ai 씀

[익명(powerrrrr)]

오

[익명(hang9572)]

[익명(120.142)]

보통은 이제 그 AI 가 취약점 이용해서 해킹하고 핵쏘고 하던데

[은바다(nmra3fmzhxmg)]

해킹을 막는 AI가 나오면 될거예요!!

[MoonChild(aowlr2001)]

[익명(119.70)]

근데 왜 내가 넣은 코드의 취약점은 발견을 왤캐 못하는거니...?

[형수찢기대장(tmzoa11)]

제로데이 옵션? - dc App

[음메엥(lightboxer)]

블랙월이 온다...

[ramune(jin073131)]

버퍼 오버플로우 공격을 당할 정도면 보안수준 낮은거 아닌가? 똥닌겐상 그것도 발견 못하는 데수

[익명(y0hi67c52o8)]

짱깨가 agi 먼저 발명하면 좆되는 이유

[익명(175.118)]

두창견 기습시위 ㅋㅋ