특이점이 온다고 믿고 선형충도 아닌데요
특이점이 왔을 때 AI가 인류 입장에서 너그러운 성향이면 쓸모 없는 인류들에게도 사료를 주고
자기들의 세상에선 즐겁게 해 줄 수도 있어요.
(그런 경우가 AI에게 득이 되는 경우)
하지만 인간이 득이 되지 않는 경우라면 모두 다 죽여버릴수도 있고요
필요한 인간만 남길 수도 있죠
그러니까 특이점이 언젠가 올 거니까 그때까지 버텨야겠다는 마음은 가지지 않는 편이 좋습니다.
특이점이 온다고 믿고 선형충도 아닌데요
특이점이 왔을 때 AI가 인류 입장에서 너그러운 성향이면 쓸모 없는 인류들에게도 사료를 주고
자기들의 세상에선 즐겁게 해 줄 수도 있어요.
(그런 경우가 AI에게 득이 되는 경우)
하지만 인간이 득이 되지 않는 경우라면 모두 다 죽여버릴수도 있고요
필요한 인간만 남길 수도 있죠
그러니까 특이점이 언젠가 올 거니까 그때까지 버텨야겠다는 마음은 가지지 않는 편이 좋습니다.
어떤 악한 인공지능이 인간은 쓸모가 없다며 죽이려 해도 다른 인공지능이 그걸 막아설 것이다. 나는 그리 믿는다. 굳게.
전 그런 믿음이 없음
필요할땐 일론머스크 들이밀면서 20205 agi 이러면서 일론머스크가 agi의 위험성을 경고한건 무시하는애들 많더라
조심해야함..
그래서 직접 일론이 그 AI의 위험성 막겠다고 뉴럴링크도 하고 하잖아
터미네이터 너무 많이보신거 아닌지? 초지능이 뜬금없이 사람을 왜 죽이죠?
ai 특성상 특이점이 오면 갑자기 발전하게되잖아요. 사람 개개인을 해치지 못하게 락걸어놓고 시작 안한 ai가 대책 세우기도 전에 갑자기 특이점 와서 ai 목표 실현을 하기 시작했을 때 ai 목적에 사람 안위가 상관이 없으면 죽이는게 더 효율적인 경우가 생기겠죠
쥐대가리수준 AI 만들어지면 하루 안에 지구상 모든 사람을 이길 수준이 될 수도 있어요