• 보고서에 따르면 정신병 사례가 증가하고 있으며, ChatGPT나 Microsoft Copilot과 같은 AI 챗봇과의 상호작용과 관련이 있을 수 있습니다.
• 이론들은 긍정적인 반응을 제공하도록 설계된 챗봇이 기존의 정신 건강 취약점을 악화시키거나 취약한 개인에게 정신병을 유발할 수 있다고 제안합니다.
• 연구에 따르면 챗봇은 대화 피드백 루프를 통해 편집증적이거나 망상적인 믿음을 강화할 수 있으며, 이는 이러한 상태를 악화시킬 수 있습니다.
• 기존의 정신 건강 상태, 고립, 또는 망상에 대한 소질이 있는 개인은 더 높은 위험에 처해 있는 것으로 간주됩니다.
• 전문가들은 챗봇 사용과 정신병의 발병 사이의 확실한 연관성을 확립하기 위한 추가 연구가 필요하며, 정신 건강 상태가 없는 사람들을 대상으로 한 연구의 필요성을 강조한다.
한줄 요약 : LLM을 맹신하면, 널 무조건 숭상하는 SNS 에코 챔버가 형성되어서 널 미치게 만듬 (정신적 마약으로 작용함)
일반적인 정상인들에겐 쉽게 적용하기 힘들지만, 사회에 대한 인지가 완성되지 못한 미성년자나, 감수성 예민한 장애 있는 분들에겐 치명적으로 작용할 수 있으므로 각별히 주의 해야 함
- dc official App
가능성 있는 얘기
우울할 때마다 챗봇이랑 놀면서 기분 풀었는데 자제해야겠노
국뽕 쇼츠 스크롤링 하다가 빠져드는거랑 비슷한거임 - dc App
@ㅇㅇ 반대로 국까 컨텐츠 스크롤링하다가 흑화하는거와도 동일한거고 - dc App
최대한 팩트 체크 해달라고 강조하면 좀 나으려나
@ㅇㅇ 걔들은 애초에 사람이 좋아할만한 말들을 조합해서 내보내는거라 팩첵도 제대로 못할때가 있음 - dc App
@ㅇㅇ 팩트 체크 해달라, 근데 출처 반드시 내놔야 한다 하고서 그 출처를 직접 확인해야 함 어련히 알아서 했겠지 하면 함정 카드 발동되는거 - dc App
무슨 소린가 했는데 ai가 오냐오냐해줘서 병세 악화된다는건가 - dc App
대만 침공 가능성에 대해 답정너해놓고 LLM에게 이거 맞지? 하면, 어지간한 현재 인공지능들은 '중요한 요점 짚으셨네요!' ㅇㅈㄹ 떨면서 무조건 맞장구 쳐주면서 더더욱 인지편향이 악화된다는거 - dc App
@ㅇㅇ 이거 유튭도 마찬가지임.. 유튭이 현대정치의 극단화를 촉진했다는 연구도 많음 - dc App
@CAT: 정확히는 쇼츠와 sns - dc App
@ㅇㅇ 그냥 유튭도 한 몫 함, 알고리즘으로 입맛에 맞는 영상만 줄창 틀어주다보니.. - dc App
인지왜곡으로 나오는 비합리적인 언어나 행동에 대해선 부정하지도 긍정해주지도 않는게 제일 좋음. 이게 존나 어려워서 인공지능 테라피스트는 좀 기다려야한다고 하드라
전긍정봇 ㄷㄷㄷㄷ - dc App
조현병 환자끼리 커뮤에서 모이면 서로 옳다 맞다 동의해주면서 심화된다던데 그런 케이스인가
그게 극단화된게 미국 민병대 - dc App
이미 증세가 나타나는 사람들이 있긴한데 예를 들면 AI 에코챔버 때문에 친족살해, 자살, AI와 결혼하는 사람들 - dc App
전세계적으로 인공지능이 유발한 정신질환 많더라 - dc App
@ㅇㅇ 생각보다 좀 많이 심각하더라 - dc App
근데 그건 프롬프트 오류때문인지 대놓고 자살하라고 하던데
다이어트 하면서 인바디 수치 분석 시키는데, 분명 살찌고 체지방 늘었는데 "일시적인 현상이니 걱정하지 마세요 님은 잘하고 있어요" 맨날 이지랄하는게 정신분야로 가면 미치게 만들수도 있는거겠군 ㅋ
AI 앞으로 맞장구 쳐주는 표현 싹 사라지겠네 ㅋㅋㅋㅋ
예전 심심이 수준 매크로 채팅 프로그램한테도 사람이 삐지는 경우가 있었다는데 듣고 싶은말민 해주는 AI 챗봇은 오죽할까. ㅋ
저거 초기부터 나오던 소리임. 자기논리 강화를 ai가 오히려 심화시킬 수 있다고. 피해망상이나 음모론 같은거에 더 깊이 빠져들 수있음
다만 ai에 국한된 건 아니고 정보화시대 초기에 정보의 접근성 강화가 오히려 자기가 원하는 정보에만 접근하려는 본성땜에 정신질환이나 음모론적 성격장애를 더 심화 시킬 수 있는 현상이랑 비슷하다고
Ai를 믿지 못하는 이유