역사적으로 그 시대 최고의 혁신과 지식은 대부분 전쟁에 사용되거나 전쟁에서 태어났다.


승마술, 야금술, 화약, 기계공학, 생화학, 컴퓨터, 핵분열에 이르기까지 예외가 없다. 어떻게든 전쟁에 쓰인다.


지금도 AGI와 초지능은 이미 인류 전체의 위협이 될 수 있다고 경계 받고 있는데 어쩌면 핵보다 위험할지도 모르지.


특이점의 순간은 반드시 충격적일 것이고 한편으로는 두려울거다. 충격과 두려움은 무기 경쟁으로 이어지고 빠르게 AI의 무기화 경쟁이 시작되겠지.


전문가들은 AGI가 안전하다고 하는데, 어디까지나 기업들이 생산성을 위해 AGI를 활용할 때에 한정될 것 같다. 군사용 AGI가 안전할 수 있을까?


무기화의 방향성은 고대부터 현재까지 언제나 같다. "얼마나 손쉽게 적대적 요소를, 인간들을 제압할 수 있는가?"


얼마나 위험한 물건들이 나올지 모르겠다. 사펑 세계관처럼 글로벌 네트워크 자체가 붕괴될지도 모르지.


이미 운 좋게 넘어간 핵위기가 여러번인데 이번에도 운이 따라주면 좋겠네.