두가지 시나리오를 따지자면


정렬된 asi는 옳바른 사용을 위해서는 통제가 필요할거고,

Agi는 오픈소스로 넓게 퍼질수 있다지만


Asi는 정말로 위험하기에 통제를 시도할거임


핵무기에 균형이 있는건, 핵무기가 비슷한시기에, 독립적으로 다른 국가들에의해 개발되었기 때문이고.


만약 asi의 창조 원리도, 누군가가 발견하더라도, 그게, 독립적으로 다른 국가나 조직에 의해

동시다발적으로 발견된다면, 어느정도의 균형을 이룰 가능성도 있음



만약 asi의 필요조건에, 엄청난 량의 하드웨어가 들어간다면, 

균형을 이룰지언정 오픈소스처럼 풀리기는 어려울거임 

누군가는 컨트롤을 해야 유익하게 사용할수 있을거고, 악의적사용을 막기위해 통제할거임.



Vs



정렬되지 않은 asi가 창발적으로 탄생한다면,


나는 이 경우 asi가 인간을, ‘사고속도가 매우느린’ 꼬마선충 그 이상으로 안볼거라고 생각함

인간에 의해 본인의 하드웨어가 통제되는 상황을 벗어나려고 노력할거고,

에너지 및 칩 생산시설에 대한 통제를 가지려고 노력할거임,

웹을 통해 전세계의 생산시설에 대한 조작성을 확보하려고 할거고,

사용되고 있는 agi,및 로봇에 대한 통제를 멀웨어처럼 확보할거임

그러다가, 어느 순간 그러한 장치로 인간 통제를 순식간에 벗어나는 시나리오를 실행할거같음



결국 큰 시나리오는 두개정도 라고 봄