[📪정보] 체인 검증으로 대규모 언어 모델에서 환각 감소

[익명(asdf045)]

환각이라고 불리는 그럴듯하지만 잘못된 사실 정보를 생성하는 것은 대규모 언어 모델에서 해결되지 않은 문제입니다. 저희는 언어 모델이 실수를 수정하기 위해 응답을 숙고하는 능력을 연구합니다. 우리는 모델이 먼저 (i) 초기 응답 초안을 작성한 다음, (ii) 초안을 사실 확인하기 위해 검증 질문을 계획하고, (iii) 다른 응답에 의해 응답이 편향되지 않도록 해당 질문에 독립적으로 답변하고, (iv) 최종적으로 검증된 응답을 생성하는 연쇄 검증(CoVe) 방법을 개발합니다. 실험 결과, CoVe는 위키데이터의 목록 기반 질문, 비공개 도서 MultiSpanQA, 롱폼 텍스트 생성 등 다양한 작업에서 환각을 감소시키는 것으로 나타났습니다.

https://arxiv.org/abs/2309.11495

- dc official App

[익명(landofooo)]

이거 왜묻혔지 환각 싹다 소멸시켜.