1. 어시스턴스 api 이용해서 RAG 찍먹해보기.

 상급모델 API 사용시 벡터스토어 파일을 읽어올때 텍스트 토큰을 전부 input으로 받아가서 토큰 비용문제발생.

 openai 요금항목에서 파일읽는부분도 체킹이 되던데, 이것까지 비용합산 청구되는지는 모르겠음.


2.각 모델들 똑같은 선행지침 맡겨놓고 출력물 비교해보기.

 일반 웹상에서 챗지피티 결제안하고 들어가면 4o-mini가 베이스로 선택되던데

 api로 4turbo, 4o-mini 테스트해본결과 .

 4o-mini로는 2500자이상을 출력물로 받기가 굉장히 어렵다. 본인들말로는 훨씬 많은 출력이 가능하다는데 api로 사용하면 절대 일반적인방법으로는 그 토큰량을 못뽑아냄.


3.출력물을 나눠서 이어쓰는 형식으로 받아야되는데 이것도 세부적으로 엄청난 제약이 있다.



그리고 플러스 사용자들에게 4.5가 일부적으로 공개되어서 웹상에서 실험해봤는데.


이친구는 이상하게 나에게 확신을 심어주려는 경향이 굉장히 강함. 100%될거야-> 안됨.   진짜 될거야! 완벽해! 완전해! -> 다안됨.



써본결과 본인이 개발해서 상업적으로 뭔가 해보고싶으면


랭체인이되었든 RAG가 되었든, 파인튜닝이 되었든, 대규모 선행작업이 필요해보임.


근데 그 선행작업 조차도 모델에 걸린 제약이나 내부요소가 많기때문에


돈많이 써서 토큰값많이내는 비싼 모델을 써야됨.


일반인이 접근하기엔 너무부담되는거같음.