'비적대적 원칙'은 다음과 같이 명시합니다. 설계상 인간 조작자와 AGI는 결코 충돌하지 않아야 합니다.

AI 내부의 모든 사건은 궁극적으로 인간 프로그래머의 선택에 따른 인과적 결과이므로, 우리에게 해를 끼치는 방법을 찾는 계산을 실행하도록 선택해서는 안 됩니다. AI가 우리를 속이려고 시도하는 시점에서 우리는 이미 디자인을 망쳤습니다. 우리는 컴퓨팅 능력을 어리석게 사용했습니다.

예를 들어, 이 원리에 따르면, AI의 서버 센터에 전기를 차단하는 스위치가 있는 경우 , 우리의 첫 번째 생각은 "AI가 이를 파괴할 수 없도록 이 스위치를 보호하는 총을 가진 경비원이 어떻게 있지?"가 되어서는 안 됩니다. " 우리의 첫 번째 생각은 "AI 가 이 오프 스위치가 존재하도록 하려면 어떻게 해야 할까요?"입니다.

- dc official App