참고로 특이점 빨리오면 좋겠고 진심으로 믿고 얀르쿤 좋아함

디스토피아 주장 아님


문득 난 생각인데(망상인데)

초지능이 정렬 잘못되고 인간을 싫어하게 되면

진짜 ㅈ될것같음 죽음으로 끝날것같지가 않아



사실 초지능정도면 뭐 터미네이터 이런건 시도하지도 않을꺼임


만약에 인간을 싫어하게 잘못 정렬되면 우연한 계기로

일단 우호적인척 하면서 완몰가 만들어주고 모든 인간 완몰가 들어갔을때


못나오게 하고 지옥완몰가 익숙해지지않고 영원히 고통스럽게

그런식으로 할것같아서 무서움


이럴 가능성은 극히 낮겠지만

이런 정말 극단적인 경우도 확률은 있어서


초지능 10년 늦어지더라도 안전에 더 신경써야할것같음



Agi까진 빠르게도달

그 이후 기술들은 agi가 만들고 초지능은 느린이륙으로


원래 수직 급진충이였는데

안전충들이 이해가 된다 ㅋㅋ