[📪정보] 딥마인드) 큰 언어 모델을 사용한 충실한 추론

[익명(1.239)]

[2208.14271] 큰 언어 모델을 사용한 충실한 추론 (arxiv.org)

현대의 대형 언어 모델(LM)은 인상적인 질문 응답 기능을 보여주지만 일반적으로 모델에 대한 단일 호출의 산물입니다. 이것은 특히 본질적으로 다단계인 문제에서 환영받지 못하는 정도의 불투명도를 수반하고 성능을 저하시킵니다. 이러한 제한 사항을 해결하기 위해 인과 구조가 문제의 기본 논리 구조를 반영하는 프로세스를 통해 LM이 충실한 다단계 추론을 수행하도록 만드는 방법을 보여줍니다. 우리의 접근 방식은 추론 단계를 함께 연결하여 작동합니다. 여기서 각 단계는 2개의 미세 조정된 LM(하나는 선택용이고 다른 하나는 추론용)에 대한 호출에서 발생하여 유효한 추론 추적을 생성합니다. 우리의 방법은 추론 품질을 향상시키기 위해 추론 흔적의 공간을 통해 빔 검색을 수행합니다.

[ㅇㅇㅇ(14.38)]