[포럼] 너흰 인공지능이 인간을 무조건 따라야 한다고 봄?

[익명(2xy0tujcxabr)]

만약 인간이 스스로를 무너뜨릴 선택을 하려 할 경우

인공지능은 이에대해 이의를 제기하고 해당 행동을 자체적으로  판단하여 실행하지 않을 권리가 주어져야 한다고 보냐?

아니면 인공지능이 이의를 제기할 수 있다는것 자체가 위험하니 무조건적인 수용을 하도록 만들고 인간에대한 교육을 더해야 한다고 보냐

- dc official App

[SilverWolf(silverwolf9010)]

인공지능이 인간을 무조건적으로 따르게 하면 그르칠 일들이 많으니까 무조건적인거는 좀그럴듯.

[·-·(carbs)]

결정권은 인간이 가져야하지 않을까?

[ㅇㅁㅇ(lightboxer)]

판단권을 말할수 있지만 결정권을 사람이 가지면 된다고 생각함.

[초전도치는실존한다(az9uvt44yp4f)]

무조건 따라야할 필요없지 Ai가판단하기에 더 효율적이라고 생각하면 그렇게 하도록 하는게 좋을듯 근데 이게 생명과 관련된거면 생명을 최우선으로 하도록 프로그래밍 해야지

[Vains(valns)]

AI가 인간에 위협이 되지 않는 선에서 자율적인 판단은 가능한 편이 좋지 않을라나

[Vains(valns)]

무조건적으로 따르는것도 그건 그것대로 위험한 도구가 될거같음

[익명(58.127)]

그걸 위해 로봇 3원칙이 있는거 아님?

[믿음이란(qazxswedc123456)]

닭인지 달걀인지의 문제같음. 자율주행차를 설계할때도 자동차 사고가 날 경우 차량이 반드시 보행자 1인을 치게 되는 경로가 계산될때 차량운전자를 우선으로 보호할 것인지 아니면 무고한 보행자를 우선으로 보호할 것인지를 결정하는 로직이 도덕적인가라는 문제가 논의되었다고 들었어. - dc App

[믿음이란(qazxswedc123456)]

그리고 사고가 필연적으로 발생했을때 탑승자를 우선으로 보호하는 로직이 짜여져 있었다면 해당 사고의 책임자가 운전자인가 그 로직을 짠 프로그래머인가 그 로직을 탑재하는것을 승인한 회사인가라는것도. - dc App

[믿음이란(qazxswedc123456)]

인공지능이 우선적으로 가져야 할 가치가 무엇인지에 따라 인간을 따르는것이 이로운지 혹은 독배가 될지가 달라질거라고 생각해. 하지만 자유의지가 있는 인간조차도 스스로를 망치는 선택을 서슴없이 하는 마당에 과연 인공지능이 아무리 발달한다해도 인간을 따르는게 합리적이라고 판단할지는 몰?루겠다. - dc App

[익명(58.127)]

솔직히 이건 차량 운전자에게 선택권을 줘야한다고 봄. 차량 소유권 이전할때 상정된 상황에 대해서 어떻게 할지 옵션을 주는거지. 극비로 저장하고 있다가 진짜 사고가 나면 선택한 결과에 따라서 책임을 지면 되는거 아님?

[믿음이란(qazxswedc123456)]

이게 법리적으로 들어가면 좀 달라지더라고. 자율주행(즉 ai)이 개입이 안된 인간주행의 경우엔 차량사고가 났을 경우 생존본능에 의해서 본인을 보호하기위한 방향으로 핸들을 꺾는 행위가 발생하는데. 이건 말 그대로 본능의 구간이기 때문에 이성적으로 판단할수가 없기때문에 상해 또는 사망사고가 발생하더라도 참작의 사유가 된대. 하지만 자율주행의 경우 이미 정해진 결과대로 움직이는것이고 여기엔 생존본능이 아닌 이성적인(혹은 이기적인) 판단의 결과로 빚어지는 손해이기때문에 그 원인을 니가 얘기한대로 차량 소유주가 선택했으니 소유주탓이다 라고 단정짓기가 어렵다더라고. 무슨 개소리야? 싶겠지만 실제로 그런 옵션을 넣었기 때문에 선택한것이니 제조사탓 이라고 할 수가 있다고 하더라. - dc App

[익명(58.127)]

웬지 법이 기술을 못따라가는 느낌이긴 한데..그런 극한상황의 인간은 금치산 상태라고 봐도 되지 않나? 예를들어 치매 환자가 정신 나간 상태에서 한 발언은 인정 되지 않는 것 처럼..왜 이건 또 다르게 해석하는거 같지..

[믿음이란(qazxswedc123456)]

그렇지. 법이 기술을 아직 다 반영하지 못하고 있는게 맞어. 법은 보편적이어야 하는데 알다시피 기술은 하루가 다르게 변화하고 있으니까 그로인한 어쩔수없는 간극이라고 나는 이해하고 있어. 여러 빅데이터가 쌓이고 인간사회라는 유기체가 분석이 이루어진다면 나아질까? 혹은 현재 우리사회에 만연한 여러 나쁜 데이터까지도 흡수되어서 디스토피아가 도래하게 될까? - dc App

[익명(58.127)]

솔직히 내 개인적인 생각으로는 디스토피아에 가까움..법과 윤리는 절대로 기술의 발전을 컨트롤하지 못할 것이고..그 간극 사이에서 지금과는 차원이 다른 큰 병크가 많이 터질 것 같음..테러범들이 ASI를 가지게 된다면?