[📪정보] 자체 참조 자가 개선 시스템 Promptbreeder 발표

[익명(asdf045)]

https://twitter.com/_rockt/status/1708829321203249566

주어진 도메인에서 효과적인 도메인별 프롬프트를 자동으로 발전시킬 수 있는 자기 참조형 자기 개선 시스템인 Promptbreeder 를 발표하게 되어 매우 기쁩니다. Promptbreeder로 진화한 프롬프트는 다양한 산술 및 상식적 추론 벤치마크에서 연쇄 사고 및 계획 및 해결 프롬프트보다 성능이 뛰어납니다.

자체 참조 자기 개선 시스템을 만드는 것은 AI 연구의 성배이지만, 이전의 자체 참조 접근 방식은 비용이 많이 드는 모델 파라미터 업데이트에 의존하기 때문에 최신 LLM의 방대한 파라미터에 맞게 확장하는 방법은 물론, 파라미터가 API 뒤에 숨겨진 LLM에서 작동하도록 하는 방법도 불분명합니다. 대신, Promptbreeder에서는 자체 개선을 위한 기반이 자연어이므로 자체 참조 방식으로 LLM을 사용하여 돌연변이 연산자를 수정할 수 있습니다. 따라서 Promptbreeder는 프롬프트를 개선할 뿐만 아니라 여러 세대의 진화를 거치면서 프롬프트를 개선하는 방식도 개선합니다.

저는 원래의 생각의 사슬 프롬프트 논문의 그림 4를 계속 떠올리게 됩니다. LLM이 점점 더 커지고 개선됨에 따라 프롬프트 전략의 이득이 크게 증가합니다. 앞으로는 점점 더 개방적인 자기 참조형 자기 계발 시스템이 더 크고 더 유능한 LLM과 함께 계속 확장될 것이기 때문에 미래는 험난할 것이라고 생각합니다. 프롬프트브리더는 이러한 방향으로 나아가는 중요한 디딤돌입니다.

훌륭한 동료들과의 협업이 정말 즐거웠습니다.

벤치마크에서 굉장히 높은 점수를 기록

논문 결론

- dc official App

[jopp(zzzznnnn8888)]

[익명(landofooo)]

프롬 개선방식을 개선한단게 ㄹㅇ 갓이네

[포스트휴먼.(ysoo75430)]

딥마인드꺼임? - dc App

[익명(asdf045)]

ㅇㅇ - dc App

[익명(99999999999n)]

[익명(rechido)]