[📪정보] 오픈ai ai의 위험을 대비하는 새로운 팀을 구성중

[익명(asdf045)]

https://openai.com/blog/frontier-risk-and-preparedness

Frontier risk and preparedness

새로운 대비팀

AI 모델이 지속적으로 개선됨에 따라 이러한 위험을 최소화하기 위해 우리는 대비(Preparedness)라는 새로운 팀을 구성하고 있습니다. Aleksander Madry가 이끄는 준비 팀은 가까운 미래에 개발하는 모델부터 AGI 수준 기능을 갖춘 모델에 이르기까지 프론티어 모델에 대한 역량 평가, 평가 및 내부 레드 팀 구성을 긴밀하게 연결할 것입니다. 팀은 다음을 포함하여 여러 범주에 걸친 치명적인 위험을 추적, 평가, 예측 및 보호하는 데 도움을 줄 것입니다.

개별화된 설득

사이버 보안

화학적, 생물학적, 방사선학적, 핵(CBRN) 위협

자율 복제 및 적응(ARA)

대비 팀 임무에는 RDP(위험 정보 개발 정책)를 개발하고 유지하는 것도 포함됩니다. 우리의 RDP는 엄격한 프론티어 모델 역량 평가 및 모니터링을 개발하고, 다양한 보호 조치를 마련하고, 개발 프로세스 전반에 걸쳐 책임과 감독을 위한 거버넌스 구조를 구축하는 접근 방식을 자세히 설명합니다. RDP는 기존 위험 완화 작업을 보완하고 확장하여 배포 전후에 새로운 고성능 시스템의 안전과 조정에 기여하기 위한 것입니다.

- dc official App

[빙냥이ㄱㅇㅇ(6zd2cxvc44h4)]

이걸 진짜 대비할 때가 왔군

[빙냥이ㄱㅇㅇ(6zd2cxvc44h4)]