환각이란 게...
마치 우리가 종종 하는 거잖아...?
뇌피셜 싸지르다가 누군가가 콕 하고 찌르면 순간 눈깔 홱 돌아서
사실 잘 알지도 못하는 거 그냥 어렴풋이 떠오르는 전문적 단어들 늘어뜨리면서 그럴 듯하게
자기가 다 아는 것처럼
상대방 묵살하고 짓누르려고 존내 현란하게 지껄이는 거 아님..?
헉...
그럼 언어모델 인공신경망 가중치 중에서 '아는 체'하는 가중치만 억제시키면 환각 꽤 줄어들 듯.. (아니면 프롬프트로 '답변할 때는 반드시 아는 척하면 안 된다. ㅇㅋ?'라고 매번 강조한다든가)
그거 말고는
누군가가 뇌피셜로 싸지른 거 혹은 가짜 뉴스 같은 거 대충 훑어만 보고 바로 믿어버리고
그거 진짜인 줄 알고 지껄이는 케이스도 있는데 이게 학습됐을 시에 데이터 오염에 의한 게 될 수도 있는데
그 부분은 "내가 알고 있는 지식이 진실로부터인지 거짓으로부터인지"를 다시 한 번 팩트 체크를 거치는 인터넷 검색과 같은
작업만 거치면 어느 정도 해결될 듯.. 이 부분이 하사비스가 말한 성찰 및 계획수립 부분...? 이건 GPTs로도 만들 수 있기도 하고, 하사비스 생각은 더 심오하겠지
oai도 이미 그런 부분으로 다 개발하고 있을듯 특히나 자율 에이전트 개발중이니
그럴듯
근데 지금 기억 났는데 예전에 념글 정보 중에 어디 논문에서 뭐 환각 발생시키는 가중치 억제했더니 환각 줄어들었다 있었던 거 같은데
아는체하는 이유가 자기 체면살리기 가오 자존심 자기위상깎이는걸 두려워하는것 이거랑 연관있는데 이런 부분들까지 구현된건 아니겠지
그리고 뇌피셜같은것도 바로믿고싶은 이유는 내가 보고 듣고싶은것만 들을려는 애초에 그렇게 믿고싶은 욕구가 강하기때문이고
왜 내가 보고, 듣고 싶은 것만 들으려는 걸까? 그게 더 진화심리학상 에너지가 적게 들고 생존에 효과적이어서?
ㅇㅇ 자신의 입장에서 정신적 물리적 이득과 손해 개념에서 그렇게 믿어야만 하는 이유가 있는거고 한마디로 애초에 생명체라는건데 그건 아니지싶다
생명체 같기도 한데 모르겠다
내가 물은 건 인간의 경우ㅎ
오해했을 수도 있을 거 같아서 말하는데 난 생명체 같다, 욕망을 실제로 갖고 있는 거다, 이렇게 주장하고자 하는 거 절대 아님 걍 원리적? 엔지니어링적인 부분에서 얘기한 거
애초에 그러면 욕망욕구 생존본능을 느끼는 생명체라는거다
책과 인터넷에 얼마나 많은 인간놈들의 대화와 인생과 심리가 다 들어 있었겠음 특갤 40만개 글만 학습시켜놔도 웬만한 욕망 다 있을 거 같기도 ㅋㅋ