[📪정보] 에릭 슈미트, ‘AGI를 위한 맨해튼 프로젝트’에 반대 주장

[초존도초(htr3c654r6ft)]

에릭 슈미트, ‘AGI를 위한 맨해튼 프로젝트’에 반대 주장

맥스웰 제프

2025년 3월 5일 오후 1:54 (태평양 표준시)

구글의 전 CEO 에릭 슈미트, 스케일 AI의 CEO 알렉산드르 왕, 그리고 AI 안전 센터의 소장 댄 헨드릭스가 수요일에 발표한 정책 논문에서 미국이 ‘초인적’ 지능을 가진 AI 시스템, 즉 AGI(인공지능 일반)를 개발하기 위해 맨해튼 프로젝트 스타일의 전면적인 추진을 해서는 안 된다고 밝혔다.

“초지능 전략”이라는 제목의 이 논문은 미국이 초지능 AI 시스템을 독점적으로 장악하려는 공격적인 시도가 중국으로부터 강한 반발을 불러일으킬 수 있으며, 이는 사이버 공격의 형태로 나타나 국제 관계를 불안정하게 만들 가능성이 있다고 주장한다.

공동 저자들은 “[AGI를 위한] 맨해튼 프로젝트는 경쟁국들이 영구적인 불균형이나 전멸을 받아들이기보다는 이를 막기 위해 움직일 것이라는 가정을 무시한다”며, “초강력 무기와 세계적 지배를 향한 추진으로 시작된 것이 적대적인 대응과 긴장 고조를 유발할 위험이 있으며, 이는 전략이 보장하려는 안정성을 오히려 훼손한다”고 썼다.

미국 AI 산업에서 큰 영향력을 가진 세 인물이 공동으로 작성한 이 논문은, 미국 의회 위원회가 1940년대 미국의 원자폭탄 프로그램을 모델로 한 ‘맨해튼 프로젝트 스타일’의 AGI 개발 자금 지원을 제안한 지 불과 몇 달 만에 나왔다. 최근 미국 에너지부 장관 크리스 라이트는 오픈AI 공동 창립자 그렉 브록먼과 함께 슈퍼컴퓨터 시설 앞에서 미국이 AI에 있어 “새로운 맨해튼 프로젝트의 시작점에 있다”고 말했다.

“초지능 전략” 논문은 최근 몇 달간 여러 미국 정책 및 산업 리더들이 지지해 온, 정부가 지원하는 AGI 추구 프로그램이 중국과 경쟁하는 최선의 방법이라는 아이디어에 도전한다.

슈미트, 왕, 헨드릭스의 견해에 따르면, 미국은 AGI를 둘러싼 일종의 상호 확증 파괴와 유사한 대치 상태에 있다. 글로벌 강대국들이 핵무기를 독점하려 하지 않는 것—이는 적대국으로부터 선제공격을 유발할 수 있기 때문—과 마찬가지로, 슈미트와 공동 저자들은 미국이 극도로 강력한 AI 시스템을 지배하려는 경쟁에 신중해야 한다고 주장한다.

AI 시스템을 핵무기에 비유하는 것이 과격하게 들릴 수 있지만, 세계 지도자들은 이미 AI를 최고의 군사적 우위로 간주하고 있다. 실제로 펜타곤은 AI가 군사적 ‘킬 체인(kill chain)’을 가속화하는 데 도움이 되고 있다고 밝히고 있다.

슈미트 등은 ‘상호 확증 AI 오작동(MAIM, Mutual Assured AI Malfunction)’이라는 개념을 소개하며, 정부가 적대국이 AGI를 무기화하기를 기다리기보다는 위협적인 AI 프로젝트를 사전에 무력화할 수 있다고 제안한다.

슈미트, 왕, 헨드릭스는 미국이 ‘초지능을 향한 경주에서 승리’하는 데 집중하기보다는 다른 국가들이 초지능 AI를 개발하지 못하도록 억제하는 방법에 초점을 맞춰야 한다고 제안한다. 공동 저자들은 정부가 “다른 국가가 통제하는 위협적인 AI 프로젝트를 무력화하기 위해 사이버 공격 무기를 확장”하고, 적대국이 고급 AI 칩과 오픈소스 모델에 접근하지 못하도록 제한해야 한다고 주장한다.

공동 저자들은 AI 정책 세계에서 나타난 양극화를 지적한다. 한쪽에는 AI 개발로 인한 재앙적 결과가 불가피하다고 믿고 국가들이 AI 진전을 늦춰야 한다고 주장하는 ‘비관론자(doomers)’가 있다. 반대쪽에는 국가들이 AI 개발을 가속화해야 하며 모든 것이 잘 풀리기를 바라는 ‘낙관론자(ostriches)’가 있다.

이 논문은 세 번째 길을 제안한다: 방어적 전략을 우선시하는 AGI 개발에 대한 신중한 접근이다.

특히 이 전략은 슈미트에게 주목할 만하다. 그는 이전에 미국이 중국과 첨단 AI 시스템 개발에서 공격적으로 경쟁해야 할 필요성을 강하게 주장해 왔었다. 불과 몇 달 전만 해도 슈미트는 딥시크(DeepSeek)가 미국과 중국의 AI 경쟁에서 전환점을 이루었다는 논평을 발표한 바 있다.

트럼프 행정부는 미국의 AI 개발을 강력히 추진하려는 모습이다. 그러나 공동 저자들이 지적하듯, AGI를 둘러싼 미국의 결정은 진공 상태에서 이루어지는 것이 아니다.

세계가 미국이 AI의 한계를 시험하는 것을 지켜보는 가운데, 슈미트와 공동 저자들은 방어적인 접근이 더 현명할 수 있다고 제안한다.

[익명(175.118)]

억제가 불가능하니까 다들 가속하는거지

[익명(tragedy7204)]

응 절대 취소안됨 ㅅㄱ

[NX-6604(city6604)]

"그래도 지구는 돈다"

[a1(grant4658)]

중국이 가속하고 있는데?

[몬스터제로(dldlskfskfroro)]

그럼 중국이 먼저 만들텐데 막는다고 해도 어케막게

[ㅇㅇ 1(219.255)]

진짜 멍청한 소리임 자국 포함해서 전세계가 AI발전 못하게 막아야된대ㅋㅋㅋ 인터넷에 써도 병신이라고 욕처먹을 소리를 구글전CEO란 새끼가 하고있음

[ㅇㅇ 2(221.149)]

얘네 다 난독증임? 개발하지 말자는게 아니라 폐쇄적으로 하면 적국이 멍 때리는게 아니라 뒤지기 전에 먼저 공격할테니 공유하자는 건데

[익명(viewer5230)]

제목만 보는거지 본문 제대로 읽는 새끼들이 있겠냐ㅋㅋ

[ㅇㅇ 2(221.149)]

https://m.dcinside.com/board/thesingularity/666824
원문
번역

[ㅇㅇ 3(121.137)]

너무 말도안되는주장임 솔직히 ㅋㅋ 상대가지랄할거같으니까 공유하자는게 ㅋㅋㅋ

[익명(222.107)]

인류사에서 이 방법이 정직하게 통한 적이 있었을까

[익명(49.167)]

북한 자극하지 말자고 연합훈련 하지 말아야 한다고 발광하는 좌파들이랑 다를 게 없지 ㅋㅋㅋ

[익명(nephew8666)]

핵무기라는 예시를 대놓고 언급하는데 통한 적이 없긴 뭐가 없음 내가 남을 때리면 나도 맞을 각오해야 한다는 핵무기까지 안 가도 그냥 너무 당연한 원리임 Ai 독점을 다른국가 입장에선 상당한 위협으로 인식하는 거고

[익명(version5619)]

시발새끼가 훼방놓네

[익명(criteria8458)]

슈미트 이새기 저번에 중국다녀와서 기술에 놀랐다고해놓고 이런글을써??? ㅋㅋㅋ

[익명(175.202)]

지금도 보안 허벌창에 다따라잡혔는데 이게 가능하다고?

[익명(118.6)]

대국이 고급 AI 칩과 오픈소스 모델에 접근하지 못하도록 제한해야 한다고 주장한다. 칩은 이미 하고 있는데 오픈소스 모델엔 어떻게 접근 못하게 하려고?

[익명(211.63)]

대따거가 답이다

[익명(perform4782)]

슈미트: '광역도발 자제요' 이거네

[난모르것다(farewell1592)]

오픈 소스 건드리려는 새끼들은 싹 다 적으로 간주한다

[좆같아서고닉팜(simrchsimbla)]

그냥 지금보다 더 열심히 겐세이 해야한다 아님?

[콜라조무사(tkatjdrhdghkrnr123)]

한 사람의 의견정도로 생각하면 될듯

[멘토스(gblzvhbddpj2)]

[익명(220.77)]

슈미트 그렇게 안봤는데 갑자기 왜 이런 이야기를 하는거지

[익명(landofooo)]

걍 얘는 구글이 AGI 만들고 그걸 정부가 사가길 원하는거