임상심리 연구용으로 gpt(24년 1월), 클로드(24년 6월) 제미나이(24년 11월) , 그록(25년 2월) 부터 쓰고 있는데
특붕이들이야 잘 알겠지만 그래도 주변에 llm 으로 인간관계에 대해서 조언을 얻는 주변 사람있으면 꼭 얘기해줬으면 해서.
llm이 오직 자기 자신에 대해서만 심리상담을 하면 꽤나 긍정적인 면이 있는데
여기에 자신 외에 최소 1명이상이 포함되면 정말 위험해지기 때문에
꼭 llm은 자기가 듣고 싶은 그 아주 작은 마음을 증폭시켜주는 역할을 한다는 점을 주변인에게 숙지시켜줬으면 좋겠음.
정말 진심으로 국가 차원에서 llm 원리에 대해서 필수 의무 교육을 해야한다고 봄. 이걸로 반드시 사건이 터질거야.
이미 심각하긴함ㅇㅇ.. 막을방도는 없어보임 - dc App
어떤식으로 위험해진다는거임? 예를들어
https://v.daum.net/v/20250616143600076
- dc App
@ㅇㅇ1(183.103) ㄷㄷ 이 세상이 매트릭스라는거구나
@ㅇㅇ1(183.103) 이런 문제는 그냥 원래 질환을 가지고 있는 사람에게만 해당하는 내용이 아님. 우리 같은 일반인들도 충분히 겪을 수 있는거라서 조심해야돼. 예를들자면 인간관계 얘기하다보면 내가 a라는 사람에 대해서 llm과 얘기할때 무의식적으로 a에게 나의 바램이나 심리등을 투영, 투사하게 되는데 이러면 a의 실제 생각이나 의사와 상관없이 내 마음대로 판단해버리고 단정하는 경우가 생김. 이것 말고도 상당히 많은데 대충 어떤 뉘앙스인지는 이해했을거라 믿음.
@글쓴 ㅇㅇ(218.156) 더 나아가서 a에게 투사하게 된것을 입증하고 싶어서 실제로 a가 그런 행동을 하게 끔 내가 행동을 해버리는 위험성도 있다는거임. 예를 들어서 a는 나를 싫어하지도 좋아하지도 않아. 근데 괜히 나혼자 a가 나를 싫어할거라고 단정지어서 실제로 그런 행동을 해서 a가 정말 싫은 티를 내버리면 llm과 대화를 통해서 나눴던 'a가 사실 너를 굉장히 경멸하고 아니꼽게보고 너를 만만하게보고' 어쩌구 저쩌구가 머리속에서 자꾸 떠오르면서 위험해질 수 있음.
@글쓴 ㅇㅇ(218.156) 나도 뉴스기사처럼 심하게 겪은건 아닌데, 네 말대로 llm이 내 맘의 작은 바램을 찾아서 그걸 증폭시키는데 능하다 보니 혹하게 되더라구..
@글쓴 ㅇㅇ(218.156) 난 일하는데 llm의 도움에 크게 의존하다보니.. 업계동향을 물어보는데도 당연히 쓰게 되고, 거기에 가치판단이 들어가는 것도 묻게되는데, 내 직업, 직장에 가진 불만이 질문에 투영되다보니 내 불만에 계속 맞장구쳐주더라고.
특이점 오면 다 해결됨 ㅅㄱ - dc App
어차피 입력된 지침에 따라 돌아가는건데 왜 그걸 전적으로 믿음? 감정도 다 감정 비슷하게 최대한 그럴듯하게 출력하는건데
사람이 논리적이기 전에 감정적인 동물이라서 그래. '어차피 입력된 지침에 따라 돌아가는건데' 라는걸 아는 것이 자동으로 사람의 감정이나 무의식적 반응을 통제해주지는 못함. 아는 것 조차도 이럴진데 그 아는 것 조차도 모르는 사람도 많기 때문에 위험하다는거임. 내가 여기서 말하는 위험이라는것은 꼭 대형사건이 아니더라도 우리 일생생활의 인간관계에서 드러나지 않게 악영향을 끼칠 수가 있다는 거임.
@글쓴 ㅇㅇ(218.156) 답변 몇번만 굴려봐도 제작자 편향이랑 허접한 논증구조가 자꾸 튀어나와서 개인 메모리에 가득차게 룰을 쑤셔넣어야 하는 불완전한 프로그램에??? 왜??
나도 이거 쓰면서 느낌. 나혼자 생각정리할땐 좋은데 남얘기할때 '반박해줘' 이런거 넣는거 아닌이상 비판적 사고가 아예 안됨 거의무조건 동조하더라
댓글 쭉 읽어보니까 무슨말인지 알거같음 애초에 사건 당사자가 서술하는건 객관적이지 않지 특히 그게 현재진행형이라면 llm은 확증편향을 증폭시킬 뿐임