[일반] API 많이 다뤄본 사람 있음? 질문있어서

[익명(today0734)]

시스템 프롬프트도 다 가격매기잖아 그래서 알아야할 정보같은건 전부 데이터베이스 형태로 저장해놓고

API를 요청자 답변자 2겹으로 만들어서

1차 API가 필요한 정보들 형식에 맞게 데이터베이스에 요청만 하게 해놓고 페치된 데이터를 답변자 API의 시스템 프롬프트에 더하는식으로 코드짜볼까 하는데

나만 이런생각 했을거 같지는 않고 많이들 해봤을거 같은데 해본사람 있음? 잘 작동함?

[익명(210.106)]

RAG로 검색해보거나 LLM에 물어보면 좋은 설명이 나올 것 같습니다.

[익명(118.235)]

안해봤지만 당연히 될듯한데요. 제가 뭐 API 쓰면서 하나 문제점이 토큰양하고 RPM이 회사별로 다르니 그거 고려해서 작성하면 될거같아요

[익명(138.199)]

안될 이유가 있나. 근데 만들면서 생각하지 말고 만들기 전에 너가 클라이언트 입장에서 어떻게 작동하게 해야할지 다 생각해놓고 만드셈