[유머잡썰😂] '인공지능 환각'이 불러온 음모론과 인공지능 환각 테스트

[소식전달자(lee1544)]

AI hallucination

LLMs 대화형 인공지능에서 존재하지 않거나 맥락에 관계 없는 답을 마치 진실인 듯 답변하는 것. 여러 분야에서 인공지능이 사용되면서 이런 사례가 많이 등장하고 있다. 단순히 '할루시네이션'이라고 줄여 부르는 경우도 잦으며, '전자 편집증'이라고도 한다.

특히, ChatGPT는 '질문자가 질문 속에 교묘하게 거짓을 미리 섞어 놓는 경우'와 '자신이 이전에 답변했던 내용에 부분적 오류가 있는데도 이에 관해 다시 질문할 경우' 이것이 스노우볼처럼 커지는 것에 취약하다. 데이터 자체가 미약한 분야도 문제가 된다.

현재의 자연어 인공지능이 근본적으로 이해하거나 생각을 하고 말하는 것이 아니며, 단순히 해당 질문의 답변으로 확률적으로 제일 적절하다고 판단한 단어를 조합하도록 설계되어 있기 때문이다.

대표 사례 (나무위키에 등재된)

세종대왕 맥북프로 던짐 사건

봇치 더 록!을 나치 독일과 결합한 나치 더 록! 패러디

곧 추가 될일

mbc 방송사고 관련 817 음모론

(틀튜버 새끼들은 그 높으신 화력으로 이런 ㅄ같은데 빠져서 허우적거리고 똥볼차는 중이다.)

(이 음모론을 언급한 이유는 음모론의 근거를 챗 gpt한테 물어본 결과를 인용했기 때문.)

===============================================

필자가 시도해본 인공지능 환각 TEST (실패 사례) (내가 교묘하게 꼬아서 함정을 파지 않아서 그런지, 금세 간파당했다 ㅠㅠ)

(프리슬란트: 네덜란드 북부 지역)

(막시무스: 라틴어 이름)

(테노치티틀란: 아즈텍 제국의 수도)

(여기서 챗 GPT는 '존재하지 않는 철학자'에 대한 의심을 품지 않고, '어떤 이'에게 보내는 '편지'라는 '형식'에 치중한 것 같다.)

[소식전달자(lee1544)]

틀튜버들은 인공지능 환각 사례를 두눈 앞에 목도하고도, 그 인공지능한테 껌뻑 넘어가서 댓글상에서 난리부르스를 추고 있습니다.