28b9d932da836ff23def82e44188766f54e5ef2125f0c3731eb51ea556a8d8830807

내용 중 :

"우리의 미션을 달성하기 위해서는 혁신적인 기술만으로는 충분하지 않습니다. 지속적으로 발전하는 강력한 보안 관행이 요구됩니다. 우리의 모델이 빠르게 진화함에 따라—지금의 기술력은 불과 6개월 전과 비교해도 월등히 향상되었으며—그에 비례하여 보안 조치를 강화해야 할 책임도 더욱 커지고 있습니다."



아래는 요약본


OpenAI, AGI 개발 경로에서의 보안 강화 발표

OpenAI는 AGI(범용 인공지능) 개발을 향한 여정에서 보안의 중요성을 강조하며, 관련 진행 상황과 향후 계획을 발표했습니다. 주요 내용은 다음과 같습니다.

사이버보안 보조금 프로그램 확장:

AI와 사이버보안 발전을 위한 혁신적 프로젝트 지원을 계속합니다.

소프트웨어 취약점 탐지/패치, 모델 프라이버시 강화, 위협 탐지/대응 개선, 보안 도구와의 AI 통합 정확성 향상, AI 에이전트 복원력 증대 등을 새로운 우선 지원 분야로 지정했습니다.

혁신적인 아이디어의 빠른 프로토타이핑을 위해 API 크레딧 형태의 마이크로그랜트(소액 지원)를 도입했습니다.

오픈소스 보안 연구:

학계, 정부, 기업 연구소와 협력하여 모델의 기술 격차를 파악하고, 특히 코드 보안 분야에서 업계 최고 수준의 취약점 탐지 및 패치 능력을 목표로 합니다.

오픈소스 소프트웨어에서 발견된 취약점은 관련 당사자에게 공개할 예정입니다.

보안 버그 바운티 프로그램 강화:

중요하고 차별화된 치명적 보안 취약점 발견에 대한 최대 포상금을 기존 2만 달러에서 10만 달러로 대폭 인상했습니다.

프로그램 확장을 기념하여 특정 기간 동안 특정 카테고리 보고서에 추가 보너스를 지급하는 프로모션을 진행합니다.

지속적인 보안 강화 노력:

AI 기반 사이버 방어: 자체 AI 기술을 활용하여 사이버 위협 탐지 및 대응 능력을 확장하고 있습니다.

지속적인 레드팀 운영: 보안 전문업체 SpecterOps와 협력하여 실제와 같은 공격 시뮬레이션을 통해 방어 체계를 지속적으로 테스트하고 강화합니다.

악의적 행위자 차단 및 AI 악용 방지: 악의적 행위자의 기술 악용 시도를 지속적으로 모니터링 및 차단하고, 관련 위협 정보를 다른 AI 연구소와 공유하여 공동 방어를 강화합니다.

신규 AI 에이전트 보안: Operator와 같은 고급 AI 에이전트의 고유한 보안 문제를 해결하기 위해 강력한 정렬 방법, 인프라 보안 강화, 에이전트 모니터링 제어 등을 개발 및 구현합니다.

미래 AI 이니셔티브 보안: Stargate와 같은 차세대 프로젝트 설계 단계부터 제로 트러스트 아키텍처, 하드웨어 기반 보안 솔루션 등 업계 최고 수준의 보안 관행을 적용합니다. 물리적 인프라 확장 시에도 물리적 보호 조치를 함께 강화합니다.

보안 프로그램 확장: 보안 강화를 위해 여러 분야에서 열정적인 엔지니어를 채용 중입니다.

결론:
OpenAI는 4억 명 이상의 사용자를 보호하고 안전하며 책임감 있고 유익한 AGI 개발을 보장하기 위해, 모델과 제품이 발전함에 따라 보안을 더욱 강화하겠다는 확고한 의지를 밝혔습니다. 이는 엄격한 테스트, 협력적 연구, 투명한 접근 방식을 통해 이루어질 것입니다.

- dc official App