미국이 AI를 규제하면 중국이 AI로 자국 이미지를 개선할 것이다.

AI 지지자들은 중국에서 성배를 찾게된다.


1945년 이후, 핵무기 난개발은 규제했지만, 원자력은 규제하지 않았다.

일반상대성이론과 양자역학은 현생 기술을 만들었다.

에너지 연구까지 규제했다면 과학자들이 일하지 않았을 것이다.


AI는 ASI와 특이점에 가까워질수록 의도된 환각이 가능하고, 

정렬로 해결하는 것은 요행을 바라는 것에 가깝다.

무기화와 유익화를 분리해내는게 불가능하고, 과학자들도 그렇게 설명할 것이다.

그래서 비관주의로 폐기하거나 낙관주의로 가속 밖에 없을 것이다.


인간은 손실회피적으로 사고한다.

AI규제로 인해 얻는 것은 눈에 안보이고, 잃는 것은 눈에 크게 보인다.

원자력 에너지나 양자역학으로 얻을 수 있는 것보다 이익이 훨씬 직접적이다.


5년 뒤 기후문제는 점점 심각해질 것이다.

AI를 규제하면 해결이 불가능하다.


이 모순 때문에 AI를 규제하는 것은 불가능하다.

코-인을 미국에서 규제하면 스위스나 엘살바도르같은 곳이 나올 것이다.

그리고 그들의 생각은 유튜브를 타고 전세계에 알려져 백악관이나 의회로 돌아온다.


안보는 외교이다. AI는 행성의 이해관계를 다루므로 외교의 대상이 아니다.

그래서 누구도 쉽게 예측할 수 없는 것이다.


-


'안보 문제와 직결'이라는 표현이 등장하는 순간,

해당 주제는 대의 민주주의를 떠난다.


대의 민주주의에 위협이 된다는 명분으로

대의 민주주의를 통제하는 전략이다.


데스크의 의지, 헤드라인의 함의, 기자의 결론 도출,

정보원, 소스의 출처 이런 것이 갖는 각각의 의미를 살펴봐야 한다.


1. 잠재적 AGI, 혹은 AGI가 안보 이해관계자들에게 '확인'됐다는 뜻으로 풀이된다.

2. 개발 목표와 성능, 기간, 인력 등 안보에 위협이 되는 국가에 대한 보안 프로토콜을 작동시키겠다는 뜻으로 보인다.


특정 성능 이상을 요구하는 개발계획에 대해서는 미국 안보 문제로 다룰 수 있다는 뜻이고,

(미국 국민의 안전과 국가 안보를 위한 것이니 전세계 어느 누구도 개입하거나 이익에 반해서는 안된다는 뜻)


정렬에 연방 예산을 투입하여, 안전하게 개발을 완수할 것이고,

적국의 손에 놓이게 될 수 있는 잠재적 AI 관련 기술(하드웨어,소프트웨어,OSS)의 유출에 대해서는

안보 이해 관점에서 강력하게 통제할 수 있다. (간첩죄, 국가반역죄)


미국은 최종적으로 AGI-ASI까지 개발을 할 것이고,

그것을 안보문제로 다룰 것이다. 다만 핵과는 달리 사람을 조종하고, 통제한다고 기술을 소유할 수 있는 것이 아니라서,

행정관료나 정치인들에게 AI과학자들이 얼마나 협조해주고,

장기적인 관점에서 어떤 방향으로 정렬 해내느냐에 달려 있는 것 같다.