나는 약을 할건가 말건가? 에대한 생각을 정리해봤음



1. 초지능이라면 어떻게든 약보다 좋은 선택을 하게 할 것이다.

초지능이라면 인류 최고의 지성보다 우월하기때문에 약보다 더 좋은 답안을 내놓고 내가 안하는쪽으로 완몰가를 만들겠지

이 가능성이 제일 높다고 보긴해



2. 초지능이 내게 주는 최종정답이 약일것이다

이 가능성도 있지 않나 생각해봄


사실 내 망상 다 이루면서 행복하게 사는거랑

부작용없는 약하면서 행복하게 사는거랑

본질적으로 큰 차이 있나? 생각해보면 딱히 없는것같거든

뭐 인류를 위해 헌신할것도아니고

대단한 성장을 원하는것도아니고

내 망상들을 모아보면, 까놓고말해 그저 쾌락을 위해 24시간 살아갈 삶인데

난 그런 삶이 전혀 나쁘다고 보지 않기도하고

어쩌면 내가 이런 가치관을 가지고있기에 더더욱 약을 정답지로 줄지도 모르지



3. 하지만 더 생각해보면 역시 그러지는 않을거같긴하다.

초지능이면 더 좋은 방법을 알것같음. 굳이 지금도 거부감이 드는 방법을 쓰진 않을듯

이 거부감이 어느정도이냐는 나 자신조차 몰라서 애매하지만

적어도 망상 완몰가에대한 거부감은 전혀 없는데

약에대한 거부감은 상당하다.

초지능은 이것을 당연히 고려할것이다.

이 거부감이 비합리적인것일지라도 초지능은 당연히 나를 위해서 고려를 해줄거임.


만약 그럼에도 초지능이 내린 결론이 약이라면 그냥 받아들일것같기도하다.

나보다 아득히 똑똑한 지성이 온갖 완몰가보다 약이 더 좋다고한다면.

하지만 역시 그럴것같진않아. 나보다 아득히 똑똑한 지능이 내린 결론이 약일것같진 않다.


그외에도 완몰가가 나올때쯤이면 사실상 몸에 나노로봇을 넣고다니는 세상이라 인공지능이랑 거의 한몸이 된 수준이라...

여러가지로 지금보다 아득히 우월한 인간이 약은 안할거같긴해. 특이점이 오면 인공지능만 진보하는게 아니고 인류도 진보하게되어있으니