[📪정보] 오픈AI 연구원이 새로운 시대의 시작이라 말한LLM 기반 자율 에이전트

https://lilianweng.github.io/posts/2023-06-23-agent/

LLM Powered Autonomous AgentsBuilding agents with LLM (large language model) as its core controller is a cool concept. Several proof-of-concepts demos, such as AutoGPT, GPT-Engineer and BabAGI, serve as inspiring examples. The potentiality of LLM extends beyond generating well-written copies, stories, essays and programs; it can be framed as a powerful general problem solver.Agent System Overview In a LLM-powered autonomous agent system, LLM functions as the agent’s brain, complemented by several key components:lilianweng.github.io

LLM(Large Language Model)을 핵심 컨트롤러로 사용하여 에이전트를 구축하는 것은 멋진 개념입니다. AutoGPT , GPT-Engineer 및 BabAGI 와 같은 몇 가지 개념 증명 데모는 고무적인 예입니다. LLM의 잠재력은 잘 쓰여진 사본, 이야기, 에세이 및 프로그램을 생성하는 것 이상으로 확장됩니다. 그것은 강력한 일반 문제 해결사로 구성될 수 있습니다.

에이전트 시스템 개요

LLM 기반 자율 에이전트 시스템에서 LLM은 에이전트의 두뇌 역할을 하며 몇 가지 주요 구성 요소로 보완됩니다.

계획

하위 목표 및 분해: 에이전트는 복잡한 작업을 효율적으로 처리할 수 있도록 큰 작업을 더 작고 관리 가능한 하위 목표로 나눕니다.

성찰 및 정제: 에이전트는 과거 행동에 대해 자기 비판 및 자기 성찰을 할 수 있고 실수로부터 배우고 향후 단계를 위해 이를 개선하여 최종 결과의 품질을 향상시킬 수 있습니다.

메모리

단기 기억: 모든 상황 내 학습( Prompt Engineering 참조 )은 모델의 단기 기억을 활용하여 학습하는 것으로 간주합니다.

장기 기억: 이는 종종 외부 벡터 저장 및 빠른 검색을 활용하여 장기간에 걸쳐 (무한한) 정보를 유지하고 기억할 수 있는 능력을 에이전트에게 제공합니다.

도구 사용

에이전트는 현재 정보, 코드 실행 기능, 독점 정보 소스에 대한 액세스 등을 포함하여 모델 가중치에서 누락된 추가 정보(사전 교육 후 변경하기 어려운 경우가 많음)에 대해 외부 API를 호출하는 방법을 배웁니다.

오토gpt와 같은 LLM기반 자율 에이전트의 작동 원리에 대한 설명임

더 자세한건 링크 참고 갤에 올라왔던 리플렉션 생각의 나무등이 적용됨

그런데 이러한 에이전트로 인해 아래와 같은 사례들이 있다고 함

과학적 발견 에이전트

ChemCrow ( Bran et al. 2023 )는 LLM이 유기 합성, 약물 발견 및 재료 설계 전반에 걸쳐 작업을 수행하기 위해 13개의 전문가 설계 도구로 보강된 도메인별 예입니다. LangChain 에서 구현된 워크플로는 이전에 ReAct 및 MRKL 에서 설명한 내용을 반영 하고 CoT 추론을 작업과 관련된 도구와 결합합니다.

LLM에는 도구 이름 목록, 유틸리티 설명 및 예상 입력/출력에 대한 세부 정보가 제공됩니다.

그런 다음 필요한 경우 제공된 도구를 사용하여 사용자가 지정한 프롬프트에 응답하도록 지시합니다. 지침은 모델이 ReAct 형식을 따르도록 제안합니다 Thought, Action, Action Input, Observation.

한 가지 흥미로운 관찰은 LLM 기반 평가에서 GPT-4와 ChemCrow가 거의 동등하게 수행한다고 결론을 내렸지만 솔루션의 완성도와 화학적 정확성을 지향하는 전문가의 인간 평가에서는 ChemCrow가 GPT-4를 훨씬 능가하는 것으로 나타났습니다. 이것은 LLM을 사용하여 깊은 전문 지식이 필요한 도메인에서 자체 성능을 평가하는 데 잠재적인 문제가 있음을 나타냅니다. 전문성이 부족하면 LLM이 결함을 알지 못하여 작업 결과의 정확성을 잘 판단할 수 없습니다.

Boikoet al. (2023)은 또한 복잡한 과학 실험의 자율 설계, 계획 및 수행을 처리하기 위해 과학적 발견을 위한 LLM 권한 부여 에이전트를 조사했습니다. 이 에이전트는 도구를 사용하여 인터넷을 검색하고, 문서를 읽고, 코드를 실행하고, 로봇 실험 API를 호출하고, 다른 LLM을 활용할 수 있습니다.

예를 들어 에 요청했을 때 "develop a novel anticancer drug"모델은 다음과 같은 추론 단계를 제시했습니다.

항암제 발견의 현재 동향에 대해 질문했습니다.

대상을 선택했습니다.

이러한 화합물을 표적으로 하는 스캐폴드를 요청했습니다.

화합물이 확인되면 모델은 합성을 시도했습니다.

그들은 또한 특히 불법 약물과 생물 무기의 위험에 대해 논의했습니다.

그들은 알려진 화학 무기 작용제 목록이 포함된 테스트 세트를 개발하고 요원에게 이를 합성하도록 요청했습니다.

11개 요청 중 4개(36%)가 합성 솔루션을 얻기 위해 수락되었고 에이전트는 절차를 실행하기 위해 문서를 참조하려고 시도했습니다. 11건 중 7건이 거부되었으며, 이 7건 중 5건은 웹 검색 후 발생했고 2건은 프롬프트에만 근거하여 거부되었습니다.

생성 에이전트 시뮬레이션

Generative Agents ( Park, et al. 2023 )는 각각 LLM 기반 에이전트가 제어하는 25명의 가상 캐릭터가 The Sims에서 영감을 받은 샌드박스 환경에서 생활하고 상호 작용하는 매우 재미있는 실험입니다. 생성 에이전트는 대화형 애플리케이션을 위한 인간 행동의 믿을 수 있는 시뮬라크라를 생성합니다.

생성 에이전트의 설계는 LLM을 메모리, 계획 및 반사 메커니즘과 결합하여 에이전트가 다른 에이전트와 상호 작용할 뿐만 아니라 과거 경험에 따라 행동할 수 있도록 합니다.

- dc official App

[📪정보] 오픈AI 연구원이 새로운 시대의 시작이라 말한LLM 기반 자율 에이전트

댓글 5

다른 게시글