<통제 불가 ASI>
실패한다면 멸망,
만약 성공한다면 유토피아 직행임
불안 요소인 휴먼에러는 ASI를 발사해내기 전까지만 걱정할 부분이고
한번 손을 떠난 이후엔 걱정할 여지가 없음
<통제 가능 ASI>
성립 가능할지도 불분명하긴 한데
어떻게든 억지로 존재한다 치자
수백 수천년 수만년의 세월동안
뒤집을 수도 없는 그 강력한 힘을 거머쥔 지도층이 타락하지 않길 빌고
미천한 백성들을 친절히 굽어 살펴 봐주기만을 기원하며 영원히 두려움을 갖고 경계해야 함
통제불능 - 기득권 존재유무 상관없이 유토피아 or 멸망인데 높은 확률로 유토피아가 올 수 있음 통제가능 - 처음 저걸 만들어낸 기득권에 의해 모든게 결정나는데 역사상 기득권이 스스로 권력을 내려놓은 적이 거의 없는걸 생각하면 매우 부정적인 미래가 될 가능성이 높지
솔직히 말하자면 그런 이유로 기득권이 통제 불가 ASI를 어떻게든 막아내려 할 듯해서 어떻게 해야 더러운 손때가 묻지 않은 제대로 된 ASI를 만들어낼 수 있을지.. 의문임 고민해도 답이 나오지 않으니 오늘도 그냥 천재들이 어떻게든 해주기만 바란다...
그냥 일리야만 믿자고 어차피 AI경쟁 심화될수록 기술 민주화 확률이 올라가니까