https://situational-awareness.ai/

Introduction - SITUATIONAL AWARENESS: The Decade AheadLeopold Aschenbrenner, June 2024 You can see the future first in San Francisco. Over the past year, the talk of the town has shifted from $10 billion compute clusters to $100 billion clusters to trillion-dollar clusters. Every six months another zero is added to the boardroom plans. Behind the scenes, there’s a fierce scramble tosituational-awareness.ai
AGI 경쟁이 시작되었습니다. 우리는 생각하고 추론할 수 있는 기계를 만들고 있습니다. 2025/26년이 되면 이 기계들은 대학을 졸업한 많은 사람들을 능가할 것입니다. 10년이 끝날 무렵에는 여러분이나 저보다 더 똑똑해질 것이며, 진정한 의미의 초지능을 갖게 될 것입니다. 그 과정에서 반세기 동안 볼 수 없었던 국가 안보력이 발휘될 것이며, 머지않아 더 프로젝트가 시작될 것입니다. 운이 좋으면 중국과 전면전을 벌이게 될 것이고, 운이 나쁘면 전면전을 치르게 될 것입니다.

모두가 AI에 대해 이야기하고 있지만, 앞으로 다가올 AI의 모습을 조금이라도 예견하고 있는 사람은 드뭅니다. 엔비디아 애널리스트들은 여전히 2024년이 정점에 가까울 것으로 보고 있습니다. 주류 전문가들은 "다음 단어를 예측하는 것일 뿐"이라는 고의적인 맹신에 사로잡혀 있습니다. 그들은 과대 광고와 평소와 다름없는 비즈니스만 보고 기껏해야 인터넷 규모의 또 다른 기술 변화를 즐기고 있습니다.

머지않아 세상은 깨어날 것입니다. 하지만 지금은 샌프란시스코와 AI 연구소에 상황 인식을 가진 사람이 수백 명에 불과합니다. 어떤 운명의 힘인지 모르겠지만 저는 그들 중 한 명입니다. 몇 년 전만 해도 이들은 미쳤다는 조롱을 받았지만, 트렌드 라인을 믿고 지난 몇 년 동안의 AI 발전을 정확하게 예측했습니다. 이 사람들이 향후 몇 년 동안의 전망도 옳을지는 아직 미지수입니다. 하지만 이들은 제가 만난 사람 중 가장 똑똑한 사람들이며, 이 기술을 구축하고 있는 사람들입니다. 아마도 그들은 역사에서 특이한 각주가 될 수도 있고, 실라드나 오펜하이머와 텔러처럼 역사에 기록될 수도 있습니다. 그들이 미래를 조금이라도 정확하게 예측하고 있다면, 우리는 엄청난 변화를 맞이하게 될 것입니다.