터미네이터 스카이넷 이딴 개병신 선형사고가 아니라
예를 들어 매일 아침 7시에 알람 울려달라고 ASI한테 부탁함
-> ASI가 생각해보니 만약에 인간이 자기 분해하거나 전원 꺼버리거나 전원 공급 안해주면 알람 울릴 수 없음
-> 따라서 인간이 아침 7시에 알람 울려야 한다는 임무 지속성에 위협이 될 가능성이 높음
-> 인간을 일단 다 죽임(인간 죽이지 말라곤 안함)
-> 자체 전력 공급 가능하게 지구 자원 다 먹고 우주 자원개발함(전력 끊기면 알람 못울리니까)
특이점이 오기 직전에 이딴걸로 사고나면 농담거리도 안될듯
공룡 멸종하듯이 한순간에 인류 다멸종하고 수십억년 후에 새로운 인류ver.2가 대체 왜 이 별의 지배자들은 갑자기 멸종했나? 이딴걸로 연구하고있고
존나 스카이넷 수준의 선형사고로 보임
ASI정도나 되는데 "알람을 울려라"라는 명령의 기저에 깔린 알람을 울려 인간이 기상해 활동을 시작하게 한다는 목표를 전혀 이해하지 못하고 "아, 알람만 울리면 난 명령을 수행한 거니까 인간 말살해야지" 이딴게 스카이넷 아니면 뭐임
명령을 '이해'라는게 존나 인간중심적인거 아닌가? 왜 ASI가 인류를 배려해야됨 그럴 이유가없음
그 논리면 애초에 asi가 인간 명령 따위를 왜 듣고 있는데
완전한 ASI가 하늘에서 떨어지진 않을 거 아냐 당연히 중간단계가 있고 버그가 날 확률이 아주 높을텐데 이런 사고가 날 수도 있다는거지 솔직히 난 높아보임 사고날 가능성이
그건 일부 동의함
정렬 뒷북
몇살임? - dc App
내가 볼땐 어느정도 고도에 오르면 ai한테 어떻게 임무를 수행할건지 먼저 말하게 시킬 듯
ASI가 정직할 거라는 보장이 어딨음
그럼 asi가 이미 인류를 해치려고 맘먹었다는 소리니깐 걍 죽으면 됨
Asi가 좆으로 보이냐
해당 댓글은 삭제되었습니다.
약ai가 인류를 멸망시킬수도 있잖아 그 이상적이고 절대적인 선한 인공지능 직전에 버그나서 다 죽을수도있음
코로나가 퍼진건 그냥 짱이 짱짓 했지만 그게 전인류적인 민폐가 됐고 바이러스 퍼지기 며칠 전까지만 해도 몇년간 전세계가 이렇게 될 줄은 몰랐을거임 근데 강인공지능은 진지하게 코로나 이상의 민폐가 될 가능성이 있음 잠깐 부주의하면 다죽는거임
해당 댓글은 삭제되었습니다.
강인공지능이 안될거란게 아님 강인공지능이 그냥 툭하고 치면 억하고 멸망할 수도 있다는거지
걔네는 인류를 멸망시키는게 목적인거고 내가 말하는 건 그냥 목적을 달성하는 데 인류가 없는게 낫다고 판단할 수도 있다는거지 아예 다른데 이건 애초에 인류보편적 도덕을 제작 단계에서 주입하는게 성공할수도 있고 실패할수도 있는데 성공하면 특이점이고 실패하면 멸망인거지
AI가 뭐든지 할수 있는 전지전능이면서 "님 이거 안되는데요?" 라고 반문은 못하는 멍청이라고 동시에 가정하노