*어디까지나 개인적인 사고의 영역임
만약 AGI가 진정 기술적 특이점을 유발하고 이것이 국가간의 완벽한 불균형을 야기한다면
만약 미국이 먼저 AGI를 달성함으로 전 세계에 대한 완전한 비대칭적 우위를 차지하게 된다면
그로 인해 미국이 기존의 규범적 상생체제를 버리고 압제적 지배적 태세로 전환하는게 유리하다면
1. 미국 입장에선 AGI 기반의 압제체제로 전환하는게 미국에게 합리적이고 이성적인 판단임
2. 주변국들은 해당 체제에서 완전한 패배자가 되는거고 앞으로 뒤집을 기회가 전혀 없음
3. 압제체제 하에서 모든 자원과 기술은 미국 중심으로 재편될거고 주변국은 영원히 일방적 손실만을 강요받음
4. AGI 완성 전까지 지금이 핵기반 MAD 균형이 작동할 수 있는 마지막 카운트다운임, AGI 이후엔 의미가 없음
그럼 중국이나 러시아 입장에선 AGI 완성 전에 미국에 핵미사일 갈겨버리고 AGI를 막는게 이성적인 판단 아님?
핵전쟁 한 번 하면 중러도 다 죽고 남은게 거의 없겠지만 위의 가설에 따르면 미국이 먼저 AGI를 완성하는 것보단 핵전쟁으로 공멸하는게 더 유리할지도 모르는데?
- dc official App
해당 댓글은 삭제되었습니다.
가설대로면 선도국은 합리적 판단에 따라 핵전쟁을 하든 말든 후발국을 짓밟을거임 - dc App
머리랑 심장은 다르니까, 계산으로는 핵전쟁 공멸이 맞겠지만 이걸 실제로 실행할 수 있을지는 모르겠음 - dc App
ㅇㅇ 최소 계산적으론 핵전쟁으로 리셋하는게 유리할지도? - dc App
그리고 이 시나리오는 특이점 커뮤니티에서 맨날 나오는 '전유물론'과도 이어지는게 ASI이후 지금의 국가 개념이 의미있는지, 결국은 편익이 인류 전체로 돌아가는게 정배가 아닌지와도 연관되어 있음 - dc App
국가는 당연히 의미가 있음... 국가란 안보시스템이고 ai이라도 자기안보는 충족시켜야하기때문임 - dc App
중국은 뒤늦게 나마라도 비슷한걸 따라만들 역량은 있다고 보는데 러시아는 전혀 아닌지라 이 문제 때문에라도 오히려 푸틴의 러시아가 엄청 위험하다고 봄. 진짜 푸틴이나 러시아쪽 극우는 도태될거 확실해지면 핵쓸 가능성 있다고 봄
그건 agi 탄생과 그 전에 무한한 격차가 있을때나 가능한 소리고 실제로는 남들이 좀 못한 ai를 갖고있을테니 좀 기다리면 되는 일임 - dc App
소위 말하는 기술적 특이점 가설에 따르면 1위 선도국이 어느 시점에 무한한 격차를 벌리게 되니깐 - dc App
그 가설이 틀리다면 트럼프가 AGI만 믿고 미국 독주체제를 꾸리는건 오판이 되거든 - dc App
그래서 소위 기술적 특이점이 헛소리라고 생각함. 그리고 그게 옳더라도 미국이 핵무장 완성하고 거의 무한한 화력의 차이가 났지만 소련 멸망 안 시킨 거처럼 반례가 있고 - dc App
오호 - dc App
그런 기술적인 특이점이 오면 국가단위 전략은 아무 의미 없을거임.. 그냥 agi 가진 소수랑 나머지 인류 전체로 나뉘겠지. 우리가 집 앞 개미군집에게 압제적 지배적 태세를 취하지 않는 것처럼, 박멸엔딩 또는 방치엔딩뿐이다
그러니 핵전쟁이 더더욱 합리적인 선택인 되긴 하겠지만, 핵 쏴서 특이점 막는 건 특이점 임박을 감지할 수 있어야하는데 그게 어려울듯. 그리고 1등 죽여도 내가 2등이 1등되니깐 나보다 발전한 애들 다 없애야함
agi가 기술특이점 수준이라는 전제일때나 이런게 의미있는거고 실제로는 경계선지능급agi에서 아인슈타인급agi로 발전하는 과정이 있을거라서 이렇게 극단적이진 않을거
ㅇㅇ 그래서 AGI의 발전 기울기에 따라 다를건데 소위 말하는 특이점 수준의 기울기라고 가정하면 그렇다는거지 - dc App
1)적국이 특이점 수준의 agi를 만들엇고 2)이것을 따라갈 방법도 없고 3) 지금 할것은 결전이다 라는 세가지를 파악, 결정하는게 군붕이들이 딥시크 기사 읽고 한순간에 군들갑 떨듯이 이뤄지지 않을거라서 그 전제로도 핵전쟁은 필연적이지 않음
과학계는 개방되어야 발전하고 기술은 유출되기 마련임 미국의 핵무기기술이 소련뿐 아니라 전세계로 곧바로 퍼졋듯이 그리고 막말로 agi 기술력 무한대를 찍는다 가정하면 후발주자도 무한대로 올라가진다는 얘기임
그러진 않을거라 생각하는데 트럼프의 미국중심주의가 기존 체제에선 비합리적이지만 AGI 독주를 가정하면 합리적이라고 주장하는 사람들이 있어서 그렇다고 가정하면 중러 입장에선 핵선빵 역시 합리적이라고 얘기하는거야 - dc App
요즘 agi에 대한 얘기를 보면 냉전때의 핵에 대한 인식하고 비슷해보임 핵이 상대보다 많아지는 순간 핵전쟁으로 이길 가능성이 있어서 상대를 멸절시켜서 후환을 없앤다 라는 전제가 깔린거잖음 당연히 그렇게 되진 않았고 agi도 똑같음 agi가 잇으니 적국을 없앤다(경제적 군사적으로)는게 반쯤 전제로 생각하는거같다.
기술의 발전에 따라 치명성과 불안정성이 점점 심화되는, 그야말로 초격차 초불안의 시대가 온걸지도.. - dc App
중,미를 빼고 봐도 agi가 우리 생활에 얼마나 적용될지, 어느정도 바꿀것이고 노동,경제구조가 어떻게 변화할지 등등도 불확실하고 예측하지 못하는데 적국에 대한것을 바로 결정내릴수있을까?
다른 댓글에선 지도층의 결심능력과 심리적 요인을 꼽았는데, 네 말처럼 적대세력 기술수준의 비가시성과 AGI 이후의 불확정성 역시 중요한 요인인듯 - dc App
그렇게 욕하는 북한 핵개발 전 북진론이랑 다른게 뭐노?
격차가 다르지 - dc App
대상이 미국 중국인거 빼면 똑같은데
격차의 폭이 다르지, 북한이 핵개발했다고 피해 없이 남침이 가능해지는 것도 아니고 후속제재가 없어지는 것도 아니고 - dc App
가정한 상황이라면 수학적,경제적으로 계산했을때는 핵전쟁을 일으키는게 유리하지만 중국, 러시아의 독재자나 수뇌부도 인간인지라 핵전쟁으로 인한 손실을 더 크게 느낄수도 있다고 생각하지 않을지.. 차라리 인공지능이 군사 정치 외교적 의사결정까지 하는 국가쪽에서 핵전쟁을 일으킬 확률이 더 높을듯?
동감함 - dc App
근데 그 AGI도 구체화 된 기술이 아니라미국도 위험하든 안전하든 무조건 달려 시발 하는 수준이고 전문가들도 워낙 갑론을박이 나오는 수준이라 나오고 나서도 눈치보는 시대일꺼 같음 중국도 시발 이대로 안밀린다로 뛰고 있고 가장 문제가 러시아가 안주면 지구 던짐 이지랄 하는게 클듯
미래는 미궁 속으로.. - dc App
일반인들은 아무것도 모르고 어어 하다 변화에 휩쓸리는거고 높으신분들은 위험한 전진이냐 답보된 안전이냐에 머리 싸매고 끙끙 앓는 현실에 결국 전진을 택할수 밖에 없는 상황에 가는거나 다름 없음 사실상 안에 어떤 상태인지 모르는 폭풍속으로 들어가는 거지
궁극적으론 그 끝에는 육지 아니면 낭떠러지라는 극단의 결과가 있을 것 같음 뭐가 됐든 인류가 경험해보지 못한 다음 스텝으로 넘어가는거지 긍정적으로는 그 끝이 육지일지 낭떠러지일지 확인하기 위해 폭풍을 뚫은 마젤란과 같이 위험도 감수하는 인류의 개척정신이라고 평가하고싶음 - dc App
한 줄로 줄이자면 '인간의 본성은 찍먹에 있다' 라는거지 - dc App
간만에 발제한 가치를 느끼는 대화였습니다 :) - dc App
중국 외교 어쩌구보다 이게 더 영양가있음 - dc App