토큰 출력 제한 높이면 고봉밥으로 내놓고 좀 줄여놓으면 잘리고 주겨버릴까 ai,,,,,,
안잘리는 방법 없나
[일반] ai챗봇 출력 짤리는거 열받네.......
Samus(tktlqtk44)
2024-11-27 23:19
추천 0
댓글 12
다른 게시글
-
음성채팅 너무재밌는데 [1][일반] 노네임(girl2153) | 24.11.27추천 0
-
클로드[일반] 제에에(211.238) | 24.11.27추천 0
-
더 빨리 발전해주세요[일반] 익명(119.197) | 24.11.27추천 0
-
챗지피티 컨버스 모드도 제한 있냐? [2][일반] 익명(58.140) | 24.11.27추천 0
-
AI안전연구소 어떤 일 하나···구성원과 처우는 [4][📪정보] 니지카엘(eltldd001) | 24.11.27추천 1
-
냉면말이밥 특이점은 온다. [10][일반] 익명(49.143) | 24.11.27추천 1
-
현실이 개 하드 데스게임이지 ㅋㅋ[일반] 익명(118.38) | 24.11.27추천 0
-
지구 탈출을 굳이 왜 함? [29][일반] 200cm(blackgigachad) | 24.11.27추천 0
-
제미니가 무례한 표현은 참지 않고 차단하겠다는데 [5][일반] 익명(119.197) | 24.11.27추천 3
-
엄마랑 남친이랑 다 같이 20살만 [6][일반] 익명(211.201) | 24.11.27추천 1
해당 댓글은 삭제되었습니다.
해당 댓글은 삭제되었습니다.
Sliding window 적용해. 대부분의 API는 지원함퍄ub
그게 모임?? 검색해봐야겠다
유저 쿼리 + 챗 내역 토큰 수가 최대 컨텍스트에 도달하면 LLM은 응답을 안해. 그럴때 오래됀 챗부터 읽어들이지 않고 컨텍스트 크기를 조절하는 기능임. 보통 API 제공하는 회사 Doc 찾아보면 있음.
RisuAi로 ㄱㄱ - dc App