[일반] 임베딩 모델은 되게 싸네

[삼플(sampplekorea)]

몰트봇 메모리 인덱싱+서칭 용도로 gemini 무료크레팃(Pro)으로 임베딩 모델 설정했는데 임베딩 모델은 싸고 괜찮은듯?

[댕댕충(nyannyanchung)]

임베딩은 로컬 cpu로도 돌릴만해서

[삼플(sampplekorea)]

난 똥라즈베리파이5라서 로컬이 되긴하는데 너무 구려서 그냥 클라우드 쓰기로함 ㅜ

[코유키1357(merry8851)]

그래서 당근의 경우 비슷한 문의가 오면 임베딩을 이용하여 비용을 줄인 케이스도 있음
https://medium.com/daangn/연간-llm-호출-비용-25-절감-인턴이-도전한-시맨틱-캐싱-도입-기록-af3de9a74d0c