[일반] 출력 토큰 4천 넘는거 지금 없음?

[익명(115.138)]

chatgpt도 4096인가 그렇고

클로드3도 똑같은거 같고

잼민이는 그 절반이고

지금 고작 4천이 최대 출력임?

잼민이 1.5 테스트중인게 6천인가 8천인가라고 하긴 했는데 아직 정식 출시한거도 아니니...

다른 로컬 llm들은 4천 넘는거 없음?

[초존도초(htr3c654r6ft)]

'continue' 또는 '계속' 이걸로 계속 하면 무한 출력됨

[초존도초(htr3c654r6ft)]

잼민이 1.5 100만 입력 토큰이면 일관성 높아서 계속 쳐도 대체로 성능 하락 없이 토큰 한정 내 무한번 출력 가능