[일반] ais 이거 최대치로 늘리면 길게추론하는거 맞지?

[익명(asia655)]

[ㅇㅇ 1(106.73)]

걍 오토두고 써라 특정 목적으로 뭔가를 왜 그렇게 추론 토큰을 늘려야 하는지 이해하고 조정하는게 아니라면

[익명(asia655)]

쨋든 저게 추론시간 조절맞음?

[ㅇㅇ 1(106.73)]

@ㅇㅇ 총 출력토큰에서 추론에 들어갈 양을 늘리는 것 ㅇㅇ 당연히 출력량이 감소함

[ㅇㅇ 1(106.73)]

@ㅇㅇ 참고로 필요없는데 억지로 추론 늘려두면 딴생각+환각터짐의 원인이 된다

[익명(asia655)]

@ㅇㅇ1(106.73) 출력량은 상관없고 추론시간 조절일단 맞지?

[ㅇㅇ 1(106.73)]

@ㅇㅇ 추론 시간이랑 상관없고 추론에 들어가는 토큰량을 늘리는거임 글이 길어지니까 강제로 늘어나긴 할건데...

[이 댓글은 게시물 작성자가 삭제하였습니다.]

이 댓글은 게시물 작성자가 삭제하였습니다.

[익명(nose8049)]

추론을 끝낼지 말지는 모델이 결정하는 거라 조작이 불가능하고, 추론시간의 최대치를 조정하는 거임 즉 너가 아무리 최대로 땡겨놔도 간단한 질문이면 모델이 추론 5초컷하거나 심지어 비추론할수도 있음

[익명(asia655)]

오 감사