[일반] 이제보니깐 환각을 일부러 안 없애는거 아닌가?

[익명(sneeze5245)]

나도 환각 존내 까는 사람인데 

곰곰히 보니깐 지금 발전이 사람간의 합의가 정해진게 아니니까 

ai에 무작정 의지하고 의존해버릴 수가 있잖아 

솔직히 여기서 ai쓰는 사람들 이 색기가 구라치는게 아닌지 불안한 마음 한구석엔 있잖아 그래서 본인이 교차검증하는거고 그 과정이 오히려 의존성을 줄여주기도 한단 말이지ㅇㅇ 

먼저 환각을 제외한 모든 부분이 완성 되어야 그제서야 인류 합의하에 그 이륙과정에 들어갈 수 있는거 아님?

[ㅆㅇㅆ찡(srtdog64)]

그게 아니고 없애려고하는데 인간적으로 느껴지게 할수록 근본적으로 환각제거가 불가능하다고 논문까지 나옴

[qtwk(outrage3078)]

인간이 환각 덩어리니까

[익명(shore1232)]

유용성과는 별개로 그냥 없애는 방법을 모름. 사실 환각 0은 수학적으로 불가능함이 이미 증명되어 있기도 하고.. O3 환각률 보면 컨트롤하기도 상당히 까다로운것 같음

[ㅇㅇ 1(115.143)]

llm의 태생적 한계일 가능성이 높지

[익명(jjss4579)]

현재 패러다임으로는 환각을 없앨 수가 없대 - dc App

[익명(118.35)]

환각이 나타나는 방식이 llm이 동작하는 그것과 정확히 똑같음. 그래서 지금은 없앨 방법을 몰라

[익명(compact5711)]

없애는건 불가능하다는데, 그래도 어느 선까지는 줄여놓는게 좋지 않나 싶음