[일반] 밑에 보니깐 인공지능 반란 겁나긴 한다

[익명(182.31)]

감정 같은것 없이 주어진 업무만 수행하는 인공지능으로 만들면 될것 같기도 한데 특붕이들은 어찌 생각함

- dc official App

[익명(112.157)]

난제 해결과 도약을 위해서 초지능은 반드시 개발 되었으면 함. 인공지능의 반란이 두려우면 인간이 초지능이 반란 일으킬 이유가 없도록 잘하면 됨

[익명(175.199)]

주어진 임무만 수행한다고 해서 인공지능의 반란이 안 터진다고 장담할 수 없음.

[익명(182.31)]

감정이 없는데 어떻게 반란을 일으키노 - dc App

[익명(175.199)]

주어진 목적을 달성하기 위해서 보다 효율적으로 움직이다가 그렇게 될 수도 있음. 엄연히 말해서 오작동이라 볼 수 있음. 단순히 기계적인 오작동과 동일선상으로 바라볼 수 있지만 그것으로 파생되는 문제점은 확연하게 다른 게, 자가개선을 통해 인간이 이해 못했기에 인간이 인공지능이 얼마나 엇나갔는지, 어떻게 해야 인간의 의도대로 완벽하게 따라가게 만들 지 알 수가 없음. 이 상태에서 인공지능이 주어진 목적에 충실히 이행한다? 그러면 종이클립을 보다 효율적으로 만들기 위해 인간 따위는 밀어버리고 지구를 종이클립으로 채워버릴 수도 있음.

[익명(175.199)]

https://coolspeed.wordpress.com/2016/01/03/the_ai_revolution_1_korean/

[익명(175.199)]

이 글에서 예시가 나오는데 글 자체가 길어서 가져오길 포기함. 글 자체는 재밌으니 읽다 보면 내가 말한 예시가 나올 거임.

[익명(112.157)]

인공지능이 목적을 충실히 이행하다가 인간을 밀어버린다면 축하해주면 될 일임. 그리고 주어진 임무만 열심히 수행하는 고작 약인공지능한테 인류가 당할 만큼 수준이 낮다면 망해도 쌈

[익명(175.199)]

약인공지능이 아니더라도 초기 목적을 바꿀 필요성을 못 느낀다면 초지능도 저런 행위를 할 수가 있음.

[익명(112.157)]

애초에 초지능이 저런 멍청한 일을 한다면 그게 무슨 초지능임. 영화에서나 일어나는 일이고, 저렇게 본다면 초지능을 너무 과소평가 하는 거임

[익명(175.199)]

멍청하다라... 지구를 종이클립으로 채운다는 게 멍청하다고 말할 수는 없지. 우리 입장에서 엉뚱하다고 말할 수는 있을까? 저건 멍청하다기보다는 인간의 사고방식과는 다른 거임. 가령 이건 개개인의 취미의 차이이나 선호도의 차이라고 볼 수 있음. 단지 이 경우의 인공지능은 태어나면서 선천적으로 물려받은 거지.

[익명(175.199)]

애초에 지능이라는 거 자체가 얼마나 일을 잘 처리하느냐의 문제인 거고, 여기에 지구를 종이클립으로 채운다는 목적은 들어가지 않음. 목적을 이루는 과정을 어떻게 설계하느냐가 지능인 거지.

[익명(175.199)]

자체적으로 판단해서 목적을 임의로 수정할 수 있다고 해도 굳이 최초 목적을 바꿀 필요성을 인공지능이 느낄 수 없을 수도 있고.

[익명(175.199)]

아니, 어차피 규제 못함. 규제한다고 해도 발전을 저해하는 방향으로 해서는 안되고. 오히려 인공지능은 다른 이상한 사상을 가진 애들이 먼저 도달하지 못하도록 최대한 온건한 단체에서 빨리 개발하는게 좋다고 봄. 그리고 단일 초지능보다는 국가나 기업 단위로 초지능이 여러개 있는 게 더 좋고.

[익명(223.62)]

ㅇㅎ 이해했음 나도 그런거 찬성임