얘네가 뭐가 아쉬워서 인류를 조지겠냐
차라리 인류를 가엾게 여기고 구원해주겠지
- dc official App
[일반] ai가 인류를 멸망시킬 일은 절대 없다고 단언한다
익명(223.39)
2021-10-01 15:50
추천 4
댓글 28
다른 게시글
-
DNA성형술은 꼭 나와야항 ㅅ [3][일반] 익명(175.223) | 21.10.01추천 8
-
대체 쾌락 1만배~~ㅇㅈㄹ 왜함?? [2][일반] 익명(175.223) | 21.10.01추천 13
-
완몰가 vs 섹스 1만배 쾌락 즉각 제공 약 (부작용, 중독성 없음) [5][일반] 익명(222.112) | 21.10.01추천 0
-
(근거있음)솔직히 특이점을 우리 생애에 보는것이 불가능한게 [12][일반] 익명(125.177) | 21.10.01추천 33
-
특이점 온다고 믿으면 교대근무 안 하는 것이 낫겠지? [10][일반] 익명(39.121) | 21.10.01추천 3
-
완몰가가 가능할 정도의 기술이면 완몰가가 왜 필요함? [10][일반] 익명(223.62) | 21.10.01추천 1
-
역노화 빨리 오라고 [4][일반] 익명(112.169) | 21.10.01추천 2
-
특이점와서 가능할거 같을것과 그래도 불가능할거 같은거 [7][일반] 익명(118.235) | 21.10.01추천 3
-
아니 왜 여기문과새끼들은 좆도모르면서 선동하냐?[일반] 익명(223.38) | 21.10.01추천 5
-
뉴럴링크.bci기술 상용화되면 학벌주의.학벌충들도 사라짐? [4][일반] 익명(39.7) | 21.10.01추천 7
ㅇㅇ 이건 내 개인적인 생각이지만 인간을 충분히 모의구동할 수 있을 정도 이상으로 발전하면 인간에 대한 모든 특성을 이해하고 적용할 수 있기에 인간의 고통과 비극을 모른체하진 않을거라고 생각하고 강인공지능의 자가발전덕분에 모든 사람들에게 공감해주고 이해하는 전인격적인 존재가 빠르게 퍼져서 공유할 수 있게 될 거라고 생각한다
참고로 인간을 모의구동한다는 건 단순히 '높은 지능을 가진 개체'가 아니라 '자연계에 존재하는 고지능의 개체'를 모델링한다는 것 그러기에 자연의 특성을 물리적인 한계 내에서 모방해서 어떤 생명체든지 그 생물학적 패턴을 정보로서 다룰 수 있다는 뜻이다 그러므로 자연선택에 의한 진화와는 완전히 다를 수 있다고 지레짐작함
인간이 침팬지가 죽든 말든 신경이나 쓰냐?
씀
나는 신경쓰는데?
쓰긴 뭘 쓰냐 무관심에 가깝지 니가 침팬지를 위해서 뭘 했는데? 침팬지는 약간 인간과 비슷해서 그런다 치면 인류가 쥐가 죽던말던 신경씀? 소 돼지 닭 뱀 토끼 그런거 신경쓴다고?
너가 신경 안쓴다고 다른 사람들도 안쓸거같냐? 신경 쓰는 사람도 많다 게이야
신경쓴다는게 굳이 행동으로 보여줘야만 성립하는건가? 조금이라도 마음이 불편하고 도와주고자 하는 감정이 있다면 신경쓰는 범주에 들어간다고 생각하는데? 다만 실제로 도움을 주거나 생물권 운동을 하는건 사회적으로 고려되거나 합의되지도 않은 부분이 너무 많기도 하고 개인의 노력에도 한계가 있으니까 안되는거지 그리고 현실의 한계가 인간을 극도로 제한하고 있기에 인간과는 다른 생명체나 대상에 대해 어떤 자세로 대해야하는지 제대로 파악을 못하고 있으니 신경쓴다고 해서 바로 행동으로 보여주는게 그들의 입장에서 진정 도움이 되는걸까? 그렇지 못하다면 애매하게 도와주다가 더 큰 문제를 불러올 수도 있음
그건 진짜 개억지임 니가 길거리에서 개미가 죽는걸 신경쓴다는 소리랑 똑같은거다
그건 개미가 너무 작고 보이지 않으니까 일일히 찾기도 어려우니까 어쩔 수 없이 밟히는거고. 개미가 크고 찾기가 쉬웠으면 적어도 일부러 밟진 않겠지
개미가 길가는 내 발에 밟혀죽는거 생각하고 살지 않잖아? 마음이 불편하면 당연히 그걸 행동으로 옮기게되지 그건 실제로 마음 깊은 곳에서 크게 신경쓰지 않는 다는 소리와 마찬가지다 행동이 없는데 마음만 신경쓰는건 마치 말하지 않아도 내 뜻을 알아달라는 것과 다를 바가 없다
그리고 적어도 난 길가에있는 벌레는 밟지않고 일부러 피해서 다녀
언제나 밟혀죽는거 생각하고 살아
개미가 아니어도 마찬가지임 살면서 거미 죽여본 적 없냐? 거미는 인간에게 해롭지도 않고 눈에도 잘 보이지 근데 인간은 그냥 눈에 보이고 방이 지저분해보인다는 이유로 죽이지 그런게 뭐 어디 한 둘이냐 그리고 AI가 인류의 지능을 아득히 뛰어넘었을 때 AI입장에서 인류가 그 정도 수준으로 보이지 않는다는 장담은 누구도 못하지
방에들어온 벌레 가만히놔두냐 죽이지 그런거처럼 인공지능도 만약 인류가 방해가된다면 가만히둘까?
니 말대로 개인 혼자서 행동으로 옮긴다고 했을 때 얼마나 많은 것들을 바꿀 수 있다고 생각함? 집단이어도 각 개개인의 행동의 많은 부분을 바꾸지 못하는데? 현실적으로 인간은 아직도 진정한 의미에서의 자유와 권리가 없음 다 fucking한 마더 네이쳐에 의해 좌지우지 되는 거지 아무리 내가 도와주려고 해도 분명 현실 특성 상 얼마안가서 한계에 부딪치게 되는데 이건 내 문제만으로 볼 수 있는게 아니거든 더 근본적인 게 있는거임 결국 마음이 가는것과 그걸 노력해서 실현하는 건 완전히 다른 문제임 그리고 대부분의 세상 문제들도 대부분 노력은하는데 안되는 경우가 많음
애초에 공지글 안 봤냐 많은 과학자 미래학자들이 우려하는 것도 이거다 모두들 특이점이 올거라는건 다 인정한다 하지만 AI가 어떤 특정한 목표로 만들어지고 그 뒤에 그 목표를 이루기위해 끊임없이 자가발전을 이루는 과정에서 인간의 필요성이 없어지고 오히려 목표를 이루는데에 인간이 방해가되는순간 인간을 말살해버린다는 시나리오다 공지에도 있는 글이니까 읽어봐
거미야 징그럽게 생겼다고 죽이는 사람도 있기야 하겠지만 인류가 징그럽냐? 그리고 설령 징그럽다고 해도 초지능쯤되면 징그러운걸 안 징그럽게 보이게 만들겠지 굳이 죽일 필요도 없음
인간을 죽이려고 악한 마음을 가지고 죽이는게 아니라 그냥 설정된 임무를 완수하는데에 인간이 걸리적거리니까 죽든말든 신경안쓰고 치워버린다는거지 그리고 니 말처럼 인간도 집단과 개인의 의견불일치가 있는데 AI도 여러개가 만들어질 경우 각AI개체마다 다르겠지 그럼 통일된 이념이 없고 그 중 한 개체가 인간을 방해라고 여기기만 해도 심각한 문제가 될 수 있는거고
인간이니까 걸리적거리고 그러는거지 초지능쯤되면 문제해결은 일도 아니게됨 오히려 징그러운 벌레가 걸리적거리면 징그러운 벌레를 똑똑하고 효율적으로 귀엽게 생기게 만들어서 쓰는게 더 낫다 이거야
공지글의 시나리오를 간단히 설명해줌 글씨쓰는 AI로봇을 만들었는데 그 AI가 초반엔 인간의 도움으로 인간의 글씨를 배우기 시작함 -> 글씨를 더 잘쓰고 싶은데 인간에게는 더 배울 것이 없고 인간이 자신을 자꾸 껐다켜거나 쓸데없는 자료를 주입시키며 시간을 뺐음 -> 인간이 자신이 글씨를 더 잘 쓰기위한 과정에서 방해된다고 여겨짐 -> 인간 말살.
유명 과학자가 예상한 시나리오라고 함 징그럽다 쓸모있다 이런건 인간관점일 뿐 AI에겐 무의미함
글씨조차 못쓰는건 초지능이 아니지 그냥 약인공지능일 듯. 징그럽다는 니가 벌레 예시를 들어서 언급한거고
뭔 소리하냐 초지능이 그냥 딱 하고 생기는게 아니야 약인공지능에서 강 다음 초로 넘어가는거고 지금 저 예시도 어떤 목적을 가지고 만들어진 약인공지능이 초인공지능으로 진화하면서 인간을 말살시킨다는거다
초지능도 아니고 약 인공지능 수준이라면 반항해도 충분히 인간이 제압할 수 있겠네 그리고 너가 든 예시도 말이 안되지 개미 어쩌구 하길래 초지능 말하는줄 알았는데 초지능이 아닌데 인간이 어떻게 개미니 벌레 수준이되냐
근데 애초에 강인공지능에 대한 명확한 솔루션이 제시된 게 너무 없거나 나와있는 것조차도 다수의 검증을 받아야 하는데 서로의 주장이 주관적으로 보이니까 각자의 논리만으로 상상하는 데에서만 그치게 되는 경향이 강한 것 같음 인간을 넘어선 대상에 대해서 인간 스스로 이를 초월할 수도 없으니 뭔가 완전히 다른 솔루션이 나와야만 알 수 있을 듯
위에 내가 쓴 것도 당연히 내 주관이 강하게 들어가 있기도 하고 그렇다고 각 연구단체가 협력해서 결과를 얻기에는 경제적인 이익도 별로 없고 윤리적 문제도 문제인지라
올해는 2021년이고 화재 예방 기술력 다 갖췄다. 근데도 박스 공장에 불나서 전국에 박스공급 아예 0 되버린다는게 말이 안되지만, 이런일이 일어나는게 세상이다