https://m.dcinside.com/board/thesingularity/480085빅테크 “AI위험 통제 어려우면, 서비스 중단” [AI 서울정상회의]https://n.news.naver.com/article/009/0005306814?sid=105 빅테크 “AI위험 통제 어려우면, 서비스 중단” [AI 서울정상회의]프런티어 AI 안전 서약 합의 한m.dcinside.com
결국봐라 그것도 하필 한국에서 열렸는데
전세계 빅테크들 싹다동참한거
무슨"몇년뒤 갑자기 어느 코티드부아르 천재학자 10명이서
창고에서 agi뚝딱 기적같은일을 해내고~"
이딴거 불가능한 구조라고 분야가 ai라면 특히 더더욱
결국엔 전세계 천재개발자 천재ceo들 모두가 똑같이 느낀거다
"내가 경쟁기업 재끼고 올라가다간 ai땜에 내인생은 물론
국가 더나아가 지구멸망 갈수있다"
이걸 모두가 뼈져리게 느낀거다 저 불확실성 불안함을
자기 권력이 위태로워질 가능성 조금이라도 있는 불안감을
그니까 적국이니 머니 싸그리 동참하는꼴봐라
결국 윗대가리들 결정에 ai기술 출시 시기가 달린거다
쟤들이 2030년 초지능 개발하고 전세계 상용화 가능하다고 그래도
"안돼 돌아가 2080년에 풀거야 안돼 싫어"
이러면 끝나는거 방법있나? 목빠지게 60년 기다려야지
진짜 최악의 시나리오 발생하고 말았다
그래도 60년은 에바임. 앞으로 발전이 느려진다 가정한다 해도 60년 전 컴을 생각하면...
모르지 걍 쟤들맘이다 끝난거
아무리 봐도 늦어지면 늦어졌지 빠를수가없다 왜냐면 분명 ai관련 사건사고 이슈 큰거한방이라도 터지면 안전강화 대책마련 시급 분명 튀어나오고 협약이 더더욱 강화되고 규제 추가되는건 안봐도 뻔하다
억제하고 늦출 수는 있음 ㅇㅇ 내가 말하는 건 그걸 말하는게 아님. 늦출 수는 있지만 막을 수는 없다는 거. 인간은 국가 간의 경쟁을 통제 못함. 아무리 쎄빠지게 노력해도 안정화 시키는게 최선이지 절대적인 통제력을 뻗히는 건 인간이라는 종의 한계 이상의 영역임.
그게 가능 했음 핵무기도 미국이랑 소련이 쥐는 걸로 끝났겠지. 하지만 아무리 좆빠지게 규제하고 위협하고 지랄해도 수십년 뒤에 10 몇개의 국가가 핵무기를 손에 넣는 걸 막지는 못했음. 청나라 마냥 단 하나의 절대적인 국가에 존속 되었다면 모를까(지금 시선으로 보면 세계정부) 현재 그런 극초강대국이 불가능한 만큼 인간은 ai를 막을 능력 따위는 없음.
agi이상 넘어가는순간 절대적인 통제력 자체가 불가능하다고 느낀거라고 거기에 오는 불안감 오히려 경쟁 치고가다간 내스스로 무덤팔수있다는 약간이라도 불안함있으면 그거 선택못한다 특히 권력층이라면 존나게 보수적임 조금이라도 티끌이라도 자기 권력에 피해준다 싶으면 개지랄 발작하는게 인간임
agi기술 이후부터는 "나의 힘으로 agi기술을 절대통제 가능한가?"이걸 확신못한다고 이거만 가능하면 개나소나 생까고 치고올라가지 남들이 짖든말든 하루빨리 초지능개발하는게 개이득인데
내가 맨날 특갤에 쳐물어본 질문이 이거였자나? "초지능 인간이 통제가능한거 확실하나?" 이게 맨날 물엇자나? 결국 이게 불가능한거다
핵무기는 통제가 가능하지 ㅅㅂ인간조종없이 핵무기한테 의식이 있어서 스스로 발로 걷고 뛰고 열받아서 스스로 폭발하고 그러나?
그니까 지금 ai기술=핵무기보다도 더 위험한데 이걸 이제 80억 인구한테 모두 나눠주는 상황 자체가 존나 리스크 작살나는거라고 느낀거다
핵무기 자체는 통제 가능하지. 근데 핵전쟁은 핵무기를 가진 나라가 기하급수적으로 늘어날 수록 터질 확률(통제 실패)이 존나 올라감. 핵전쟁 터지면 모두가 좆된다는 건 어린애도 아는 상식이고 그랬기에 핵무기 소유를 억제하는 온갖 지랄을 다 했는데도 핵협약 이후에도 핵이 퍼지는 걸 못 막았잖음. 비유하자면 agi = 핵이고 asi = 핵전쟁임. 상세하게
따지면 좀 다르긴 한데. 어떻게 보면 모아니면 도인 asi 보다 핵전쟁으로 문명 붕괴 확정인 핵무기가 더 위험하지.
문제는 이 ai라는 핵무기는 의식이 잇다니까? 이게 문제라고 통제가 불가능하다고
그니까 쟤들입장에선 다똑같이 느낀거다 "경쟁이고 나발이고 일단 내부터 살고보자" 이게 딱맞는상황이다
핵무기를 가진 상대편 국가랑 asi랑 우리편 입장에서는 똑같지. 의식이고 나발이고 통제 불가능 하냐 가능하냐를 따진다면 둘 다 좆망으로 향하는 길임.
거기다가 경쟁이고 나발이고 내부터 살자에서 내가 망할 위기가 오면 어쩔 거 같음? 배신하면 본전 혹은 이득인 죄수의 딜레마에 빠지는데 그런 배신자들을 수십년이고 수백년이고 통제 가능할 거 같노.
그니까 경쟁국가고 나발이고 그 불안함을 선택할 이유가 없다니까?
그니까 1. agi 늦게 개발하는 바람에 내가 경쟁에 뒤쳐져서 망한다 2. agi 빨리 개발했다가 agi로 인해 내 스스로 무덤을 판꼴이 되었다 그래서 망함 이거 2가지 시나리오중에 차라리 1번이 그나마 낫다고 판단한거다 적국이든 누구든간에
저기 각국 천재들 학자들 개발자들 모든 사람들 모아서 토론하고 논의하고 해서 결과가 1번이 낫다고 판단한거다
"2번은 진짜 위험합니다 도저히 어떻게 흐를지 예상도 못하겟고 통제고 머고 감당 안됩니다" 이걸 똑같이 모두가 느낀거라고
그리고 안타깝게도 지금 ㅈㅊㅅ 및 온난화 같은 문제로 모두가 좆될 각이라 불안해도 선택해야 되는 시점이 오고 있음. 미국이 선택 안 해도 중국이 선택할테고 선진국들이 주저해도 수십년 뒤에 발전 된 기술은 agi를 더 만들기 쉽게 만들어 줄 것이기에 개발도상국이 기업이, 특정 단체에게 선택권이 내려올 거야. 이거 영원히 못 막음.
그니까 각국 모두의 최선의 방법은 "니들은 경쟁국가지만 일단은 ai만큼은 협력하자" 이렇게 된거다
지금 모두가 1번을 선택해도 수십년 뒤에 2번을 선택할 단체가 없을까? 인간이라는 종족 자체가 그렇게까지 합리적이지는 않을텐데.
지금 핵심문제는 그거자나? 우리입장이라고 우리같은 서민입장 쟤들이 백날 초지능 개발하고 해도 "우리 같은 서민들한테 언제 제공하느냐?" 이게 핵심이라니까? 지금 이거떔에 열받는거라고
우리한테 혜택 주는 시기 이게 핵심이라고
좀 늦어져도 오긴 옴. 무작정 막는 게 능사는 아니니 만큼 풀긴 품. 그리고 수십년이 말이 수십년이지 존나 긴 세월이여서 님 죽기 전에는 온다.
그래 그건 그렇겟지 그니까 그게 열받는거라고
지금도 당장에 "도대체 gpt5는 언제푸노?" 이러는 판에 목빠지는 판에
Ai에 너무 목매진 마셈. 현생 즐기거나 보내면서 느긋하게 기다리는게 베스트 아닐까 싶다.
내가 윗대가리 되서 풀어줄게 ㄱㄷ
ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ