[일반] 제미니 2.5 몇만 토큰까지 한번에 처리가능한거같음?

[익명(erenmika0330)]

2만 토큰까지는 괜춘?

[ㅇㅇ 1(218.235)]

100만

[익명(erenmika0330)]

그건 이론상 아냐? 그래도 성능 나가리 안돼고 한번에 안심하고 처리하라고 할수 있는 평균 토큰 아는 사람 없나

[ㅇㅇ 2(166.104)]

@ㅇㅇ 단일 질문 한정 몇십만 토큰 한번에 입력해도 답장 잘 받아짐. 누적된 토큰은 오래걸리고 렉걸리는게 있긴하는듯

[익명(what6567)]

내 경험상 10만까지는 잘 작동하고 15만 넘어가면 맛탱이 가버림

[익명(erenmika0330)]

궁금한게 이거였음 고맙다

[익명(behalf2892)]

5만부터는 추론 잘 안하려해서 걍 새로 팜 마지노선 8만