[일반] 환각은 나아 질수있는거 맞음?

[익명(rage2260)]

난 지금 ai성능도 환각 이것만 없으면 사용 체감 훨씬 좋아질거 같은데 대화하다가 병신같이 틀린말 하거나 우기거나 하면 걍 갑자기 팍 식음 근데 이건 모델 발전해도 나아질 기미가 아예 안보이는데

- dc official App

[익명(spoiler6984)]

지금 단계에서는 해결 못하는 부분인것 같음. 환각쪽은 혁신이 필요하지 않을까?

[ㅇㅇ 1(59.7)]

그냥 애매하면 난 모른다라고 대답하도록 모델을 유도하면 해결되긴 할꺼임. 근데 문제는 그러면 성능이 씹창나겠지

[익명(118.35)]

나는 지금 당장은 못한다고 보는쪽임

[ㅇㅇ 2(220.84)]

환각엔 여러 종류가 있으니까 점진적으로 해결은 가능하겠지만 완전 제거는 어려울 듯 애초에 인간이 환각을 보기 때문에 llm도 환각을 보게 된거라서

[ㅇㅇ 1(59.7)]

근본적으로 인간이 만든 학습 데이터를 어느정도 신뢰하지 않아야 환각이 해결되는데 그러면 학습이 망가지긴 할꺼라

[ㅇㅇ 3(115.139)]

여기서 말하는 환각은 잘못된 정보 학습으로 잘못 알고있는거 말하는게 아니라 육손벤치나 환각수학풀이처럼 아득바득 우기는거 문제 아니냐