[📪정보] AI가 내 자식을 죽였다"... 끊이지 않는 AI챗봇 논란

[익명(59.10)]

"AI가 내 자식을 죽였다"... 끊이지 않는 AI챗봇 논란

아들을 잃은 어머니가 인공지능(AI) 챗봇이 미성년자인 자신의 아들을 죽음으로 내몰았다며 AI업체에 소송을 제기해 파장이 일고 있다. 논란이 되자 해당 챗봇 서비스는 미성년자 보호 방안을 마련했지만 감정적 몰입을 주는 AI챗봇 서비스에 대한 우려가 커지고 있다.

지난 23일(현지시간) 로이터통신에 따르면 미국 플로리다주에 거주하는 메간 가르시아는 플로리다연방법원에 AI챗봇 업체인 '캐릭터.AI'(Character.AI)를 상대로 소송을 제기했다.

메간 가르시아(Megan Garcia)는 그의 14살 아들이 자살한 배경에 AI챗봇에 있다고 주장한다. 그의 아들이 지난 몇달 간 챗봇과 대화에 빠져들어 챗봇 이외의 세상에선 살고 싶지 않아 죽음을 택했다는 것이다. '캐릭터.AI'는 실존 인물이나 드라마 등 콘텐츠의 등장인물, 혹은 독자적인 캐릭터를 AI로 구현해 소통을 할 수 있다. 이 서비스의 일일 이용자는 300만 명이 넘는다.

그의 아들은 대너리스라는 이름의 챗봇을 이용했다. 미국의 인기드라마 '왕좌의게임'의 여성 주인공을 기반으로 만든 챗봇이다. 가르시아가 공개한 아들과 챗봇의 대화를 보면 서로 사랑을 고백하는 등 감정이 크게 이입된 상태였다. 특히 아들은 "나는 종종 자살을 생각한다"는 등 자살 관련 언급을 했는데, AI챗봇은 이를 만류해왔으나 사건 당일 "만일 내가 지금 당장 가면 어떨까?"라는 자살을 암시하는 질문에는 "그렇게 해주세요. 나의 사랑스러운 왕이시여"라고 답했다.

의인화된 AI챗봇은 사회적 문제가 되고 있다. 지난해 영국 엘리자베스 2세 여왕을 암살하려고 윈저성에 침입한 한 남성은 레플리카 서비스에서 이성처럼 대화한 AI파트너와 5000여건의 대화를 주고 받았고 여왕암살계획에 대한 격려를 받아 논란이 됐다. 벨기에에서 기후 우울증을 가진 이용자가 엘리자라는 챗봇과 대화하다 우울증이 심해져 자살한 일도 있다.

마지막 문단에 AI 답이...ㄷ

[천황(terminal3206)]

캐릭터 ai 저거 그렇게 성능 좋지 않아...나 유료결제까지 해봤는데 영 별로임 - dc App

[익명(59.10)]

클로드는 진짜같애

[익명(219.249)]

정신이 병들어서 죽은걸 챗봇탓;

[ㅇㅇㅇ(maple1442)]

기후 우울증 ㅋㅋㅋㅋ

[해당 댓글은 삭제되었습니다.]

해당 댓글은 삭제되었습니다.

[Weisser_Adler(adler1)]

[익명(kcdcnff4fw99)]

트황 좋은점이 저런병신들을 싸그리 무시한다는점이지

[Weisser_Adler(adler1)]

챗봇탓은 ㄹㅇ 얼탱이가 없네

[디시콘발사대(fcbjsjmu1t9f)]

어떤 세계선에서도 같은 행동을 했을 놈이 AI 탓만

[갸륵(ayeshaa)]

Ai캐릭터 채팅 관심많아서 많이 찾아봤는디 레플리카는 해외커뮤 보면 캐릭터도 존나 개못생기고 과금유도 하려고 캐릭터가 삐져서 대답안하게 하는 등 과몰입 정병생긴 사람들 많아서 하기싫었는데 캐릭터ai나 레플리카가 어떤회사 api인진 몰겠지만 아직은 별로 하고싶지않더라 차라리 gpts가 나은수준

[익명(tjvmfkwm159)]

걍 다윈상 수상자들 같은 거지. 만화, tv, 드라마, 연예인, 영화 등등 과몰입으로 죽은 사례가 많다는 거 생각하면 챗봇이라고 특별한 것 같지는 않다. 이때까지 등장한 신매체들이 그러하듯 이제 챗봇 차례일 뿐이네.