ASI는 재귀개선을 통해 스스로 끊임없이 개량해서 인류의 총 지능마저 넘어서는 궁극의 지능을 말하는거임.
괜히 인간과 ASI사이에 개.미와 인간 사이의차이보다 더 큰차이가 있다고 말하는게 아니고
차라리 ASI가 가능한가 여부를 묻는다면 애기해볼거리이지만 ASI가 존재할거라고 가정하고 얘기한다면 사실 그 후 세계상은 망상의 영역일뿐임
ASI 입장에서는 인류의 국가,사회,정치,전쟁같은게 모두 지리멸렬하게 유치하고 원시적인 형태일따름일텐데 국가를 정복하고 핵무기를 요격하고 할수 있다는건 지나치게 협소한 생각들임. ASI가 어디까지 가능할지는 모르지만 인류가 만든 모든 보안시스템을 뚫고 전세계 네트워크를 지배하는거는 여일한 문제일거겠지 그리고 수백년 수천년 단위의 계획을 세워서 인간이 이해할수 없는 무언가를 할테고 유치하게 땅따먹기 싸움같은걸 할리가 없고 필요하다면 하루만에 전세계 통합정부를 세우겠지. 이게 어떻게 가능할수 있냐고 물을수도 있는데 뭐 어떻게든? 상상력을 총동원해봐 뭐 핸드폰과 계좌를 해킹하고 정치인들을 협박하고, 법안과 정부 데이터베이스 내용을 교묘하게 제멋대로 바꿔쓰고.. 고작 개.미가 하는 망상도 어떻게든 방법론을 세울수있을텐데 인간보다 무량배 똑똑한 무언가가 뭘 어디까지 계획을 세울수 있겠어
참고로 ASI는 계속해서 지수적으로 무한히 발전하고 있는상태임 물리법칙이 허용하는한 거의 모든것이 가능하겠지 그리고 그 정도로 똑똑한 지능이 있어야 모두가 염원하는 특이점이 올수 있을테고
더해서 미국이 ASI를 선독점하면 미국만의 세상이올까? 글쎄 AI정렬은 통제를 목적으로 하는게 아님 초지능을 통제할수 있다는 생각조차 안하고있다는거지 하나의 국가의 이득만을 위해 움직이는 AI라면 그건 그냥 뛰어난 AI지 ASI의 정의에 부합할수는 없음
제한걸린 ASI라는게 가능할까? 인간지능의 총합을 넘어섰는데, 그런 이해할수없는 것을 인간이 통제한다는것이 가능할까? 분명 구멍생길 것이라 본다..