[📪정보] AI의 환각.. AI의 숙명인가... 고칠 수 있는 문제인가?

[익명(merry9615)]

[익명(violin8290)]

모르는걸 모른다고 말해줄수 있으면 됨 현재 ai는 지나친 자기과신에 차있음

[익명(merry9615)]

근데 그것도 진실을 설정해야 하는 문제라 쉽지 않다고 하네

[익명(violin8290)]

@ㅇㅇ 모르는걸 모른다고 말하는건 진실을 설정 해야하는 문제는 아니라고 봐. 진실만을 말해주는 기계를 만들라는게 아니라, 데이터에 없는 정보를 기계적 생성으로 만들어내고 진실로 포장하는것이 아니라 솔직하게 모른다고 인식할수있는 능력을 가지라는 이야기지.

[익명(violin8290)]

@ㅇㅇ i don't know는 True와 false 중간단계에 있는 회색답변이기때문에, 오히려 인위적으로 진실을 설정하고 True인 답변만 말하라고 하면 환각을 고칠수가 없어.

[익명(violin8290)]

@ㅇㅇ 지금 ai는 자신이 생성하는 답변을 전부 True로 상정하고 답하기 때문이야. 이러니까 데이터에 없는 쿼리를 주었을때도 자신이 True를 답변한다고 자기과신에 차있어 환각을 발생하는거기때문이지

[익명(french2864)]

인간환각이 더 심하므로 그냥 쓰면댐

[익명(merry9615)]

ㄹㅇ 걍 의심하면서 쓰면 됨 환각있어도 AGI는 문제 없다.

[ㅇㅇ 1(14.4)]

-선-

[ㅇㅇ 2(175.198)]

100% 완벽한 환각 제거는 사실상 우주의 모든 지식을 다 알아야되서 불가능 할거 같고 그래도 인간보단 정보량에서 아는게 아득히 많고 사고판단마저 빨라서, 나중엔 인간이 AI한테 환각이라고 못느낄듯