[일반] 외부평가 모델이 불가능한 이유

[익명(14.43)]

'환각이다 아니다 를 판별할 수 있는 외부평가모델' 을 쓰면 되는거아니냐? 라고 말하는데 

얘 조차도 트랜스포머 강화학습을 기반으로 한 다르지 않는 메커니즘이라면 

환각오류에서 벗어날 수 없음 

얘가 환각이 아닙니다 라고 판별해도 환각이 아니라고 말하는 환각 의 오류를 저지를 수 있기 때문임 

그래서 못한다는거 ㅇㅇ 

오로지 지금의 강화학습 트랜스포머 방식으로는 인력의 개입이 필수 적임

[익명(58.78)]

그거 전통적인 기계학습 모델, 초창기 모델을 말한거임

[익명(14.43)]

무슨말임 지금 니가 생각하는 초창기 모델과 구조적으로 달라진게 없음 근본메커니즘은 같으나 응용메커니즘이 달라진거지

[익명(58.78)]

트랜스포머 없었을 때의 모델을 말한거임

[익명(58.78)]

그니까 환각 있는 모델들 말고 지어내지 못하는 대신 환각 없는 전통적인 모델이 있음 신경망 안쓰고 전통적인 기계학습으로 데이터 쌓는 논리적인 모델

[익명(14.43)]

아 그렇게 해서 절대적인 기준을 마련하고 그 절대적인 기준에 도달할때까지 추론 과 자기평가학습을 무한반복 돌린다는 이야기?

[익명(14.43)]

IO <-- 얘 내들 말하는거임?

[익명(58.78)]

ㅇㅇ 그거 맞음

[익명(58.78)]

전체 일치 할 필요없고 일부 데이터만 맞으면 됨 환각 제거용으로 ㅇㅇ

[익명(58.78)]

예를 들자면 1세대 심심이와 비슷한 그거임 말지어내지 못하고 상대방 말에 따라 대화내용자체를 가져와 복붙하는 모델