한 AI 에이전트가 널리 사용되는 실제 소프트웨어에서 이전에 알려지지 않은 제로데이 익스플로잇이 가능한 메모리 안전 취약점을 발견했습니다. 이 취약점을 발견한 대규모 언어 모델 지원 취약점 에이전트인 Big Sleep의 개발사인 Google의 Project Zero와 DeepMind에 따르면 이 취약점은 적어도 공개된 첫 번째 사례입니다.


11월 1일 발표에서 Google의 프로젝트 제로 블로그는 프로젝트 Naptime 대규모 언어 모델 지원 보안 취약점 연구 프레임워크가 Big Sleep으로 발전했음을 확인했습니다.


프로젝트 제로의 일원으로 최고의 윤리적 해커들과 구글 딥마인드의 일원으로 최고의 AI 연구원들이 참여한 이 공동 노력은 널리 사용되는 코드에서 실제 보안 취약점을 발견할 수 있는 대규모 언어 모델 기반 에이전트를 개발했습니다. 세계 최초로 발견된 이 취약점의 경우, Big Sleep 팀은 "널리 사용되는 오픈 소스 데이터베이스 엔진인 SQLite에서 악용 가능한 스택 버퍼 언더플로우를 발견했다"고 말합니다.


이 제로데이 취약점은 10월에 SQLite 개발팀에 보고되었고, 같은 날 수정되었습니다. Google의 Big Sleep 팀은 "이 문제가 공식 릴리스에 나타나기 전에 발견했다"며 "따라서 SQLite 사용자들은 영향을 받지 않았다"고 말했습니다.



포브스 전문 확인 - Google Claims World First As AI Finds 0-Day Security Vulnerability

* GitHub - protectai/vulnhuntr: Zero shot vulnerability discovery using LLMs

클로드의 에이전트가 12개의 제로데이 보안 취약점을 먼저 발견하여 최초는 아니라는 주장이 있음