[📪정보] LLM의 자가 발견된 추론 구조를 통한 복잡한 문제 해결

https://arxiv.org/abs/2402.03620

Self-Discover: Large Language Models Self-Compose Reasoning StructuresWe introduce SELF-DISCOVER, a general framework for LLMs to self-discover the task-intrinsic reasoning structures to tackle complex reasoning problems that are challenging for typical prompting methods. Core to the framework is a self-discovery process where LLMs select multiple atomic reasoning modules such as critical thinking and step-by-step thinking, and compose them into an explicit reasoning structure for LLMs to follow during decoding. SELF-DISCOVER substantially improves GPT-4 and PaLM 2's performance on challenging reasoning benchmarks such as BigBench-Hard, grounded agent reasoning, and MATH, by as much as 32% compared to Chain of Thought (CoT). Furthermore, SELF-DISCOVER outperforms inference-intensive methods such as CoT-Self-Consistency by more than 20%, while requiring 10-40x fewer inference compute. Finally, we show that the self-discovered reasoning structures are universally applicable across model families: from PaLM 2-L to GPT-4, and from GPT-4 to Llama2, and share commonalities with human reasoning patterns.arxiv.org

이 논문은 SELF-DISCOVER라는 새로운 프레임워크를 소개합니다. 이는 대규모 언어 모델(Large Language Models, LLMs)이 복잡한 추론 문제를 해결할 수 있도록 태스크 고유의 추론 구조를 스스로 발견하게 하는 과정입니다. SELF-DISCOVER는 비판적 사고와 단계별 사고 같은 여러 원자적 추론 모듈을 선택하고, 이를 명시적인 추론 구조로 구성하여 디코딩하는 동안 따르게 합니다. 이 방법은 GPT-4와 PaLM 2의 성능을 상당히 향상시키며, 특히 BigBench-Hard, 지상 에이전트 추론, MATH 같은 도전적인 추론 벤치마크에서 기존 방식보다 최대 32% 개선됩니다

[📪정보] LLM의 자가 발견된 추론 구조를 통한 복잡한 문제 해결

댓글 5

다른 게시글