[일반] 팩트는 환각 떡밥도 2개월 전에 돌던 떡밥이라는거임

[익명(125.141)]

https://gall.dcinside.com/mgallery/board/view/?id=thesingularity&no=657708

"환각 해결은 불가능하다는 것이 수학적으로 증명됨"

환각문제는 그냥 AI에게 모르는 문제는 모른다고 가르치면 해결된다고 누가 수학적으로 증명했다는거임

[ㅇㅇ 1(115.93)]

i dont know 메커니즘을 제시한거지 뭔 수학적 증명이냐ㅋㅋㅋ 그리고 그렇게 쉽게 해결될 문제였으면 진작 도입했음

[ㅇㅇ 2(59.7)]

애초에 저 논문 아무 의미 없어 학회 등재 못하고 arxiv에서 버려진 논문임

[ㅇㅇ 2(59.7)]

작년 8월에 나와서 아무 관심도 못받고 있는걸 가져와서 념글 하나 빨아먹었을 뿐이라

[익명(h1r5enpsrrsq)]

[익명(h1r5enpsrrsq)]

[ㅇㅇ 3(1.254)]

저거 보니까 저번에 봤던 엔트로픽 환각 줄이기 관련 문서가 생각나네.
https://docs.anthropic.com/en/docs/test-and-evaluate/strengthen-guardrails/reduce-hallucinations
여기서도
`Allow Claude to say “I don’t know”: Explicitly give Claude permission to admit uncertainty. This simple technique can drastically reduce false information.`처럼 환각을 줄이기 위해서 모르면 모른다고 답변해야 한다고 나와있던데.