[일반] 제미나이 system instruction 몇토큰까지가 적당함?

[익명(sponsor9968)]

2천토큰인데 다이어트 필요한가

너무 긴 건가 싶음

근데 모드 고르는 프롬프트라 모드 선택하면 나머지 모드들에 대한 프롬프트는 활성화 안 되는데 이런 것들도 컨텍 먹음? 먹겠지?

- dc official App

[오늘의시나리오(enormous9130)]

충돌로 성능저하 되는거 아님? - dc App

[익명(sponsor9968)]

충돌은 서로 다른 지시사항끼리 하는 건데 이건 모드를 고르면 나머지는 무시하게 해놓음 - dc App

[fewweekslater(slim4567)]

성능좋으니까 그냥 1.5만토큰이하로만만들어 시스템프롬프트 1.5만잡아먹는다고해서 계속 1.5만씩 잡아먹는것도아님 캐싱되서 다 잘 작동함 옛날 모델들이나 다이어트하는거지

[익명(sponsor9968)]

오 고수햄이 조언해준 건 귀담아 들을게요 ㄱㅅ - dc App

[익명(sponsor9968)]

제미나이3 오고 문제 많이 생겼는데 수정 좀 하고 지금 나아짐 근데 분량이 너무 긴 건 것도 문제인가 했는데 아닌갑네 - dc App

[익명(tomato5419)]

2K 정도면 좋은 편임 난 대략 5K를 마지노선으로 생각하고 하는데 세션을 짧게 치는 것들은 10K 이내로 생각하고 만듦

[익명(sponsor9968)]

난 반복출력을 하면 할수록 쌓이는 누적 데이터가 중요한 거라 짧으면 좋긴 할듯 - dc App

[익명(tomato5419)]

@ㅇㅇ 3.7K로 해서 100턴 넘게 했는데도 멀쩡하던데

[익명(sponsor9968)]

@ㅇㅇ 내가 3 넘어오고 아직 많이 안 써봄ㅎ; 2.5는 5만 토큰 오버하면 조금씩 곱창나던데 얘는 어떨지 궁금하네 - dc App

[솔담비(rty1x21s8nhq)]

2k면 영어로 한 1600자 쯤 되나? 얼마 안되겠는데.