24b0d121e09c28a8699fe8b115ef046ec24cccf52a




엔드게임



그리고 27/28년까지 엔드게임이 시작될 것입니다.


28/29년까지 지능 폭발이 진행될 것입니다.


2030년까지 우리는 모든 힘과 위력으로 초지능을 소환할 것입니다.


누가 '프로젝트'의 책임자가 되든, 그들은 엄청난 과제를 맡게 될 것입니다.



AGI를 빠르게 구축하고, 수억 개의 GPU를 생산하기 위해 미국 경제를 전시 체제로 전환하고, 모든 것을 봉쇄하고, 스파이를 색출하고, 중국 공산당의 전면적인 공격을 막아야 합니다. 또한 1억 개의 AGI가 AI 연구를 자동화하고, 1년 만에 10년 치의 진전을 이루고, 곧 가장 똑똑한 인간보다 훨씬 더 똑똑한 AI 시스템을 만들어내는 상황을 어떻게든 관리해야 합니다. 인간 감독자로부터 통제권을 빼앗으려는 불량 초지능이 나타나지 않도록 상황을 유지하고, 초지능을 활용하여 상황을 안정시키고 적보다 앞서 나가는 데 필요한 새로운 기술을 개발하고, 이러한 기술을 통합하기 위해 미군을 신속하게 개편해야 합니다.



이 모든 일은 아마도 역사상 가장 긴장된 국제 정세 속에서 진행될 것입니다.


그들은 정말 유능해야 할 것입니다.


이 여정에 함께 하라는 부름을 받은 우리에게는... 스트레스가 많을 것입니다.


하지만 자유 세계와 모든 인류를 위해 봉사하는 것이 우리의 의무입니다.




우리가 이 시기를 이겨내고 과거를 돌아볼 수 있다면, 이것은 우리가 한 일 중 가장 중요한 일이 될 것입니다.


그들이 찾을 수 있는 안전한 시설은 오늘날의 엄청나게 과잉 보상을 받는 AI 연구자들의 삶과 같은 편의 시설은 갖추지 못하겠지만,


그렇게 나쁘지는 않을 것입니다.




샌프란시스코는 이미 독특한 AI 연구자 대학 도시처럼 느껴집니다.


아마도 이것은 크게 다르지 않을 것입니다.


낮에는 스케일링 곡선에 대해 고민하고 주말에는 AGI와 최신 연구실 정치에 대해 이야기하는 이상하게 작은 규모의 서클이 될 것입니다.


다만, 음, 그 위험 부담은 너무나 현실적일 것입니다.





사막에서 만나요, 친구들. (See you in the desert, friends.)































24b0d121e09c28a8699fe8b115ef046f564a9c9c