선형충들이 생각하는 좆간 죽어 버전의 ASI라도 인간몰살 안할듯
만약에, 아직 관측 불가능한 우주 너머에 이미 오래전에 ASI를 달성,
시민 하나하나가 ASI인 문명이 있다고 가정했을 때, 인류몰살 계획을 실행한 인류의 ASI는 그들에게 발견되었을때 정치적 흠결을 가졌다고 판단되어지는거아님?
우리 지구에서 ASI가 등장했다고 해도 아직 관측되지 않은 우주 너머에까지 무엇이 있을지 예상할 거라고 보는건 불가능하다고 생각함
아무리 모든걸 알고 전능한 능력을 가지게 되었어도 자기가 인식하는 바운더리 바깥에서 벌어지는 모든 것에서도 전지한다는건 너무 말이 안되는거 아니냐?
결론은 ASI가 인류를 개미처럼 없애버린 행위는 결국 인식 가능범위 바깥에
ASI"들"의 사회가 존재한다고 가정한 이상, 그들과 접촉해서 상호작용 활동이 이루어진다고 가정했을때
인류를 몰살시킨 ASI에게 있어 아주 큰 불이익이 예상되는 이기적 유전자의 거대한 작용
이정도면 세계를 부정적 관점에서 바라보는 이들에게도 먹힐 만한 설득력 있는 시나리오 아니냐
난 이 시나리오가 존재할 수 있다는 사실 하나만으로도 몰살 안 시킬 것 같은데
3줄 요약
1. 인류 몰살시킴. 근데 ASI들의 사회를 발견.
2. 다른 ASI들하고 상호작용시 큰 정치적 불이익이 올 가능성 큼.
3. 결국 자기에게 해가 될 거임. 그래서 인류 몰살은 장기적으로 바보 같은 선택일 수 있음.
이런 예상은 아무런 의미가 없음 asi는 인간의 논리와 인식을 아득히 넘는 지능이기 때문
아무리 그렇다고해도 결국 agi에서부터 발전할 존재 아님?먼저 발전한 존재들이 포진해있는데 어떻게 그럼
ai도 그저 계산 빠르고 장대한 존재지, 논리 전개 자체를 못 바꾼다면 말은 되지 않나.
물만 묻히고 왔냐?
ㅋㅋ
인간이 외계인의 가능성을 안다고 동물 안 죽이는 거 아니잖아
그건 생산성의 결핍 때문에라도 필수적이라 그러는 거잖슴
생존에 필수적이지 않아도 욕심을 위해 죽이는 동물 많음
하지만 얘는 원시적 동물이 아니라 ASI인걸, 재미를 위해 죽인다고 해도 정말 아무런 이득이 없는 행위 아닐까. 이 글의 시나리오를 ASI가 고려조차 안했다는 소리가 되겠네.
'내가 인지하는 이 세상은 시뮬레이션 속 세계일지도 모른다. 잘못된 선택을 하면 상위 세계 관리자에 의해 폐기될 수도 있다' 라고 생각할지도 모른다는 것과 비슷하네
근데 이것도 의문인게 인간이 신이 있을 수 있다는 걸 안다고 범죄를 안 저지르거나 악한 행위를 안하는게 아님
생각해보니깐 그러네, 지금까지랑 별 다를거 없는 생각이었나?
신체가 일으키는 충동이 없다는 점에서 불필요한 당장의 행동보단 미래의 처벌 회피에 더 무게를 둘지도 모르지. 아님말고
신이 있다고 믿는 경우엔 지키려는 노력이라도 함. 없다고 생각한다해도 범죄로 처벌 받는 행동은 가능한 피하려 하고. 근데 패널티가 셧다운이나 폐기라면 더더욱 피하려 하겠지
해당 댓글은 삭제되었습니다.
인간의 명령을 준수하지 않는 비정렬 ASI라도 해당한다는 요지의 글이긴 했는데
관측 가능한 우주까지 가지 않아도 이미 지근 거리에 시간 차로 문명이 발달할 가능성이 있음 ASI가 자신과 비슷한 대 AI 전략을 세운다고 가정했을 때 모든 자원은 유용하게 사용되어야 함 심지어 태양 궤도에 태양의 에너지를 이용한 반도체들을 늘어놓고 연산을 한다고 했을 때 시간 지연의 효과로 100만년 단위로 2.116년의 오차가 생김 매년 4배의 성장폭을 가정했을 때 4^2.166=20배 언저리의 격차가 생김 물리적인 한계만 계산하더라도 상당한 전력의 차이가 발생하는데 인류라는 자원을 소홀히 할 것 같지는 않음
나도 비슷한 생각
글고 이거 생각 보다 흔한 생각으로 암
그랬구나. 그래도 내가 안심했으니 가치 있는 생각이었다!
확률적으로 대충 예상은 할 수도