Graph of Thoughts: Solving Elaborate Problems with Large Language ModelsWe introduce Graph of Thoughts (GoT): a framework that advances promptingcapabilities in large language models (LLMs) beyond those offered by paradigmssuch as Chain-of-Thought or Tree of Thoughts (ToT). The key idea and primaryadvantage of GoT is the ability to model the information generated by an LLM asan arbitrary graph, where units of information ("LLM thoughts") are vertices,and edges correspond to dependencies between these vertices. This approachenables combining arbitrary LLM thoughts into synergistic outcomes, distillingthe essence of whole networks of thoughts, or enhancing thoughts using feedbackloops. We illustrate that GoT offers advantages over state of the art ondifferent tasks, for example increasing the quality of sorting by 62% over ToT,while simultaneously reducing costs by >31%. We ensure that GoT is extensiblewith new thought transformations and thus can be used to spearhead newprompting schemes. This work brings the LLM reasoning closer to human thinkingor brain mechanisms such as recurrence, both of which form complex networks.arxiv.org


요약: 이 논문은 거대 언어 모델(Large Language Models, LLMs)을 이용하여 복잡한 문제를 해결하는 새로운 방법을 제시한 것입니다. 저자들은 LLM의 출력을 임의의 그래프로 표현하는 Graph of Thoughts (GoT)라는 프레임워크를 소개합니다. 이 그래프에서 각 정점은 LLM의 정보 단위(“LLM thoughts”)이고, 간선은 이들 사이의 의존성을 나타냅니다. 이 방법은 임의의 LLM thoughts를 결합하여 상호 작용하는 결과물을 만들거나, 전체 thoughts 네트워크의 핵심을 추출하거나, 피드백 루프를 이용하여 thoughts를 개선하는 등의 기능을 가능하게 합니다. 저자들은 GoT가 다양한 작업에서 최신 기술보다 우수한 성능을 보여주며, 새로운 prompting scheme을 개발하기 위한 확장성도 갖추고 있다고 주장합니다. 이 논문은 LLM의 추론 능력을 인간의 사고나 뇌 기작과 같은 복잡한 네트워크에 가깝게 만들어준다고 평가할 수 있습니다


- dc official App