[📪정보] OpenAI 플러그인/브라우저 작동 원리

*트윗을 그대로 가져오는 글입니다.

TLDR: 브라우징(및 플러그인)은 8k 시퀀스 길이를 지원하고 툴포머와 같은 작동 구조를 가진 다른 모델입니다.

모델명을 살펴보면 text-davinci-002-browse라고 하며 8197 max_tokens를 지원합니다. 따라서 GPT-4 8k API에 대한 액세스 권한이 없지만 플러그인에 대한 액세스 권한이 있는 분들은 더 긴 컨텍스트로 유사한 경험을 할 수 있습니다.

쿼리 프로세스는 간단합니다. 다른 ChatGPT 세션처럼 채팅하면 되지만 모델은 웹 요청을 할 수 있을 만큼 똑똑합니다. 하지만 어떻게 될까요? 먼저 채팅 세션의 클라이언트 측 보기를 살펴보겠습니다.

이제 백엔드 채팅 로그를 살펴보겠습니다. 현재 대화에는 세 명의 배우가 있습니다. 1. 사용자: 채팅하는 사람. 2. 어시스턴트: GPT 모델 3. 브라우저: 정보를 얻는 데 사용되는 도구입니다. 채팅의 첫 번째 부분(사용자 프롬프트 후)은 다음과 같습니다.

텍스트 필드에 주목하십시오. 이것은 사용자가 프롬프트하는 것이 아니라 도구(여기서는 브라우저)에 대한 프롬프트로 모델이 생성합니다.

받는 사람 필드는 일반적으로 모두로 설정되지만 이 경우에는 "브라우저"로 설정되므로 이 메시지는 내부적으로 사용되며 표시되지 않습니다.

요청의 두 번째 부분에는 브라우저 응답이 포함되어 있으며 도구로서의 역할, 브라우저로서의 이름 및 content_type에 주목하십시오. 이것은 인용에 대한 일부 메타데이터와 함께 LM에 대한 입력을 위해 삭제된 웹 브라우저의 출력으로 보입니다.

다음은 환각을 줄이고 더 나은 기반을 제공하기 위해 웹 결과를 기반으로 인용문을 제공하기 위해 브라우저에 대한 일련의 호출입니다. (브라우저가 브라우저 이상이라고 가정할 수 있습니까?)

단일 질문 채팅의 총 대화 크기가 512KB를 초과하는 등 프로세스가 길고 느립니다. 주어진 "브라우저 입력" 및 메시지 작성자 변경 사항은 관련 입력이 제공되는 아키텍처와 같은 툴포머가 있음을 나타냅니다.

It can support multiple types of input according to API: 1. text 2. code 3. tether_browsing_code 4. tether_browsing_display 5. tether_quote 6. error 7. stdout 8. stderr 9. image 10. execution_output 11. masked_code 12. masked_text 13. unit_test_result 14. system_error

저는 12월에 API에서 이러한 필드를 발견했습니다.

이는 OpenAI가 툴포머 논문이 나오기 훨씬 이전부터 모델과 관련 개발 작업을 해왔다는 것을 의미합니다.

여기까지 했다면 이스터 에그 하나가 있습니다.

Default (GPT-3.5)에서 다음 프롬프트 https://pastebin.com/9PiUiNdS 를 사용하고

인사 메시지 후에 도구 관련 질문을 하면 답변을 받을 수 없습니다!

모델이 도구를 지원하지만 사용할 수 없습니다.

거의 다 구글번역이라서 어색한 부분이 많다

https://twitter.com/vaibhavk97/status/1640626881404755970

How does OpenAI plugins/Browser work? A thread of detailed analysis on the server interaction. S/o to @CrisGiardina for helping with access.

TLDR: Browsing (and possibly plugin) is a different model with 8k seq length support and a toolformer like operation structure. pic.twitter.com/W8MvNSU8zT
— Vaibhav Kumar (@vaibhavk97) March 28, 2023

이 트윗을 가져왔으니까

저 트윗 들어가서 영어 원문을 보는걸 추천함

[📪정보] OpenAI 플러그인/브라우저 작동 원리

댓글 4

다른 게시글