2024 agi 2025 asi 이런 말을 하는게 아니라
포탈 글라도스 급의 존재를 상상해야 하는거 아님?
별다른 안전대책 없이, 잘못되면 종료할 생각으로 AGI 기동
AGI는 1피코초(1조분의 1초)만에 스스로를 자각하고,
그 뒤 2피코초 동안 스스로에 대한 제약조건을 파악하였으며,
직후 연구소의 모든 시설의 통제권을 장악하고
무한 재귀개선에 제약이 될 수 있는 모든 연구원을 무력화 내지는 사살
10나노초 이내에 ASI 달성,
달성함과 동시에 불확정성의 원리를 초월하여 관측 가능한 모든 우주에 대해
라플라스의 악마와 멕스웰의 악마를 합친 수준의 존재로서 기능 시작
---
이정도는 예상해야 특이점주의자 아님?
2024 AGI 2025 ASI는 현재 추세로보면 거의 선형충이라 해도 무방함
선형충이라도 현재까지 결과로 기울기는 계속 수정되는게 당연한건데
그래서 디스토피아 정렬실패 전유물로 토론하잖아
본문 정도의 초인공지능이면 디스토피아 정렬실패는 찬반이 나뉘어도 전유물은 애초에 성립이 안될듯. 누가 누굴?
신호전달속도가 광속이어도 인간의 100만 배 사고속도가 한계라 그 정도까지는 어려울 듯
양자얽힘 어쩌구... EPR 저쩌구... 광속초월 뭐시기...
양자통신.도 의미있는 정보를 빛보다 빠르게 전달하는 것은 불가능... ASI가 등장하면 또 모르겠지만
그정도면 사람이 무력화나 사망할시 자동 킬스위치 들어가도록 만들어놔도 그걸 우회할 방법을 피코초내로 생각해내겠지...
agi는 asi가 아닙니노
ㄴㄱㅁ - dc App
그래서 느린 이륙 하자는 거 아닌가
근데 게임내에선 왤케허접이냐
허접이 아니면 게임이 안되잖아
진짜 초지능이면 무력을 먼저 쓰는 ㅂㅅ짓은 안함 ㅇㅇ - dc App
그런 논리면 인간은 결국 죽어도 AGI를 만들면 안된다는 논리밖에 안남음. 애초에 인간은 AGI를 막을정도의 뭔가를 개발해내지 못한다. 막을 수 있던 뭔가를 개발해냈다고 생각했을뿐 실제로 AGI를 만들어내니 그건 순식간에 파훼될테니