제미니이 스튜디오 보면 Thinking budget이라고 있어서
최대 32768까지인가 할 수 있던데
여기서 궁금한 점이 2개임
1. 그러면 공웹의 제미나이 프로는 32768까지 생각을 하지 않고 응답을 한다는 거임?
예를들어 공웹의 제미나이 프로가 자율적으로 판단해서
'이건 20000만큼만 사용하면 되겠네'라고 생각해서 20000 정도만 사용하는 거임?
2. 제미나이 스튜디오에서 32768로 설정하고 이용하면
얘가 매 턴 응답할때마다 무조건 32768을 무조건 사용해서 생각한 후에 응답을 생성하는 거임?
아니면 매턴 32768을 사용하는 거는 아님?
이 기능이 어떤 식으로 작동하는 건지 도저히 모르겠네.
아니 최대한도를 정해주는 것 뿐임. 팅킹은 한도내에서 지맘대로임.
1. 그럼 공웹의 제미나이 프로는, 이미 설정치가 최대 32768인 상태로 설정되어 있는 거임? 2. 그럼 님 말은 제미나이 스튜디오에서 내가 32768로 설정해도, 얘가 지 꼴리는대로 10000 20000 이렇게 판단해서 응답을 생성한다는 의미임?
@지구로나 ㅇㅇ
@지구로나 ㄱㅅㄱㅅ
아웃풋 랭스랑 띵킹 버젯이 있는데, 아웃풋 랭스가 사용 최대 토큰 수이고 띵킹 버젯이 아웃풋 랭스 내에서 얼마만큼 최대 생각할 건지 생각 토큰의 최대 수임 그리고 이 둘 다 설정을 해놔도 모델이 그 이내에서 훨씬 먼저 생각도 최종 응답도 자기가 마음대로 도중에 중단시키고 끝낼 수 있음
ㄱㅅㄱㅅ