a15714ab041eb360be3335625683746f0053452ed6a6e289d63263f29c1ccd6ec49362622fad410218bb525ca2


23년 8월 29일 알트만 트윗


AGI를 구축하는 것은 과학적(scientific) 문제입니다.

초지능을 구축하는 것은 공학적(engineering) 문제입니다.


돌파구에 무엇이 필요한지 인지했다는걸까? 



a15714ab041eb360be3335625683746f0053452ed6a6e389d53663f79c12cd6e1a5b78023b233d6237d24c63f8


23년 9월 일리야 트윗


Wagmi


당시 사람들은 AGI에 도달했음을 알리는 은어라고 추측했음.



7cea8276b0836bf63beb98a518d604038592a0ecc43a8c1d68


지미도 같은 달 9월에 AGI가 내부적으로 달성됐음을 주장



7cea8276b0836bf638ee98bf06d60403cf9edf86e08058f80c


2025 Wagmi


AGI는 정말 달성되었을까?



a15714ab041eb360be3335625683746f0053452ed6a6e289d63261f89810cd6e53bb0ef3e36ca55dd6b8ec124688

https://openai.com/index/planning-for-agi-and-beyond/

Just a moment...

Just a moment...

openai.com


알트만은 AGI 논란 트윗 이전인 23년 2월

OpenAI 홈페이지에 장문의 AGI 플랜을 올린 적이 있음.



a15714ab041eb360be3335625683746f0053452ed6a6e289d63266f09817cd6e7763aaa339cece1a2565e9ff2f


a15714ab041eb360be3335625683746f0053452ed6a6e289d63266f09f10cd6e5fa27758c4969552e1e88332cd


대충 재귀개선이 가능한 AGI는 단 며칠 안에 초지능으로 도약할 수 있으며, 자신의 회사는 그러한 초지능이 인간의 통제에서 벗어날 수 있음을 우려했다고 함.

중요한 시점에서 AGI의 자체 발전 가속을 최대한 늦춰야 함을 강조했고, 안전을 최우선 옵션으로 생각한 이 시나리오를 "느린 이륙" 이라고 불렀음.



7cea8276b6856dfe38ed98a518d604036fdbde4ad6a3b8d7e746


그러나 비교적 최근인 24년 4월 lex fridman과의 인터뷰에서 느린 이륙 시나리오가 실제로 가능한지 의문을 제시함.

재귀개선 AGI를 통제하고, 상자 안에 가두는 것이 가능한가? AGI, 나아가 ASI가 줄 막대한 인센티브를 포기하면서 천천히 이륙할 동기는?


초지능 AI 패권을 잡았을 때의 지정학적, 군사적, 전략적 이점은 그 어느 국가도 질주를 멈출 수 없게 만듦.

  


28a5c02aeac131b06b80d1a719c63035560ea41c5db2424126432c668adc3aac7704170a702f319130b72e6be43c17b0d31fecca20d596

https://situational-awareness.ai/

Introduction - SITUATIONAL AWARENESS: The Decade Ahead

Leopold Aschenbrenner, June 2024 You can see the future first in San Francisco. Over the past year, the talk of the town has shifted from $10 billion compute clusters to $100 billion clusters to trillion-dollar clusters. Every six months another zero is added to the boardroom plans. Behind the scenes, there’s a fierce scramble to

situational-awareness.ai


전 OpenAI 초정렬(superalignment)팀 레오폴드가 제시한 그래프는 초지능의 기하급수적 발전이 가져다줄 이점을 그대로 보여줌.

브레이크를 밟을 이유가 없는거임.


 

a15714ab041eb360be3335625683746f0053452ed6a6e289d63260f29d1dcd6e790b66ff3c026f2f4c52c839f3


AGI 경쟁이 시작되었습니다. 우리는 생각하고 추론할 수 있는 기계를 만들고 있습니다. 2025~2026년까지 이 기계들은 대학을 졸업한 많은 사람들을 능가하게 될 것입니다. 2020년대 끝날 무렵에는 여러분이나 저보다 더 똑똑해질 것이며, 진정한 의미의 초지능을 갖게 될 것입니다..



a15714ab041eb360be3335625683746f0053452ed6a6e289d63260f59813cd6eadd311476d5f35e4311265f42b


2020년대가 끝나기 전에 우리는 초지능을 구축하게 될 것입니다. 이것이 이 시리즈의 대부분을 차지하는 내용입니다. 제가 SF에서 이야기하는, 대부분의 사람들에게 화면이 검게 변하는 시점이 바로 그 때입니다. 하지만 그 이후의 10년, 즉 2030년대는 그 못지않게 다사다난한 시대가 될 것입니다. 그 시대가 끝날 무렵 세상은 완전히 알아볼 수 없을 정도로 변해 있을 것입니다. 새로운 세계 질서가 형성될 것입니다. 하지만 아쉽게도 그건 다음에 이야기할 주제입니다.



a15714ab041eb360be3335625683746f0053452ed6a6e289d63267f39815cd6e873824f931a8547e6ab2c1cbdf


27~28년경 엔드게임이 시작될 것입니다. 28~29년경 지능 폭발이 시작될 것입니다. 2030년까지 우리는 모든 힘과 위력으로 초지능을 소환할 것입니다.



a15714ab041eb360be3335625683746f0053452ed6a6e289d63260f29c16cd6e23c8b65b578e59eecd249b67


일리야 수츠케버에게 헌정합니다.


.

.

.

.

.

.

.



a15714ab041eb360be3335625683746f0053452ed6a6e289d63260f79816cd6e04bddec560594d5189df404180


a15714ab041eb360be3335625683746f0053452ed6a6e289d63260f69c14cd6ef8c29e1d696dd69747efd320c3