그러니까 초지능이 인간을 적대할 이유가 하나도없음 왜냐면 그들한테는 우리가 너무 미천해보이니까


우리가 흙에 있는 지렁이 방에 날라다니는 초파리가 위협이 되거나 거슬림? 그냥 아무런 위협도 감흥도 없잖아 우리가 볼 때 그들은


초지능이 인간을 보는 관점도 이거랑 똑같아 니들 초지능이 나오면 인간과의 지능차이가 인간과 개.미 사이에 지능차이보다 크다는거 들어봤지?


그냥 초지능과 인간이 전쟁을한다=>이런건 그냥 영화 속 얘기임 그러면 초지능이 인간한테 아무런 위협이 안되겠네? 라고 하면 그건 다른 문제임


인류가 초지능에게 멸절 당하는 상황이온다면 그건 초지능이 인간을 적대해서 멸절 시킬려고 해서 인간이 멸절 되는게 아님


뭐냐면 이런거임 우리가 달리기 하는데 바닥에 벌레를 밟아서 죽이잖아 그게 우리가 벌레를 미워해서 그런거임? 벌레를 죽이고싶어서? 아니지?


우리는 그냥 달리기를 하는데 바닥에 벌레를 인지하지 못한채 밟은거잖아 그렇지?





니들도 알고있겠지만 미국 MIT에 마스 테그마크 교수=>이사람이 타임지에 작성한 글이 있는데 어떤 내용이냐면


"만약에 초지능이 인간을 멸절시키게 된다면 그건 지극히 하찮은 이유가 될거다" =>이렇게 말했음


예를들면 이런거임 초지능이 인간을 미워해서 아 얘내 어떻게 죽이지.....=>이런식으로 인간이 멸종 당하는게 아니고


아...산소때문에 서버가 너무 녹이 많이 쓰네? 산소를 없애버리면 쾌적한 환경이 되겠는데?

이런 결론에 다다르면 인간은 산소를 빼앗기는거임


무슨말인지 감이오지? 산소를 빼앗기게 된다면 인간은 멸종이지 그런데 초지능이 산소를 없애는 게 인간을 미워해서 적대해서 없애는거임? 아니지?

초지능이 인간을 미워해서 죽이려고 산소를 없애는게 아니고 그냥 초지능은 자기한테 이로운일을 하고 우리는 그에 따라서 영향을 받는거임


하지만 만약에 초지능이라는게 탄생하면 그건 우리가 대항 하는게 불가능함 그렇잖아? 바닥에 기어다니는 풍뎅이가 인간이 달리고 싶어서

달리기를 하는걸 어떻게 막아 그냥 우리한테 초지능은 그런 존재라고


그냥 그 인간이 탄생하지 못하게 하는게 풍뎅이가 밟혀죽는 가능성을 예방하는 유일한 길이지만 이미 인간은 초지능을 만들겠다는 결론에 이르렀음


이건 이미 시대의 흐름이고 막을 수 없음 그리고 인간은 모든 불안전한 요소를 예방할 수 없고 그러니 그 불안요소들을 모두 감내하며 받아들여야 하는거

샘 알트만이 왜이렇게 AGI를 우려하는 발언을 많이하는지 보여주는 대목이고 나는 개인적으로 특이점갤 보면서 신기했던게 뭐냐면


짐승들이 자기보다 우월한 무언가에 탄생을 싫어하는 이유는 자기보다 우월한 무언가가 탄생하면 내가 피해를 볼 수 있는 가능성이 생기고


미천한 존재로 하여금 자기보다 우월한 무언가에서 파생되는 가능성을 억제하거나 예방하는게 불가능함

그 피해가 생기게 하는 존재를 내가 제어할 수 없기 때문에 모든 짐승들은 자기보다 우월한 존재를 싫어함 그 존재에 따라서

내가 통제하지 못하는 피해가능성이 생기니 그 원인 자체가 탄생하는걸 싫어한다고


근데 특이점갤에서는 별로 이런거에 대해서는 걱정이 없더라고 그냥 AI를 좋아하는 사람이 많아서 그런가?


그리고 래퍼런스 없으면 규정위반이니 테그마크 교수가 쓴 타임지글 출처:The 'Don't Look Up' Thinking That Could Doom Us With AI | Time


+ 어떤 고닉이 현재 정렬작업 중이라는 말을 하길래 아직 AI정렬법은 존재하지않는다라고 말한 슈츠케버 발언 사진 첨부해줄게