토큰 맥락 길이는 gpt가 내뱉는 토큰 양도 포함이기 때문에 o1이 내부 사고하는 토큰을 생각해보면 딱히 차이 안 날 수도?
입출력다포함된게 저거임
내 말이 그니까
이론상 3배더많은내용을 집어넣을수있다하지만 제미니마냥 토큰만 늘리고 실질적인 기억력은 잼병인애들도있긴함
58K 입력:@@ 생각@@k 출력:@@k 196k는 어느정도일까
Chatgpt 극초기버전 gpt4는 토큰이8k밖에안되서 조금만 많은내용집어넣으면 long떳었음
32k로늘어나면서 그나마적어졌고 물론 api는 128k긴했음 o1프리뷰가 58k까지늘어나고 지금 196k까지늘어남
토큰 맥락 길이는 gpt가 내뱉는 토큰 양도 포함이기 때문에 o1이 내부 사고하는 토큰을 생각해보면 딱히 차이 안 날 수도?
입출력다포함된게 저거임
내 말이 그니까
이론상 3배더많은내용을 집어넣을수있다하지만 제미니마냥 토큰만 늘리고 실질적인 기억력은 잼병인애들도있긴함
58K 입력:@@ 생각@@k 출력:@@k 196k는 어느정도일까
Chatgpt 극초기버전 gpt4는 토큰이8k밖에안되서 조금만 많은내용집어넣으면 long떳었음
32k로늘어나면서 그나마적어졌고 물론 api는 128k긴했음 o1프리뷰가 58k까지늘어나고 지금 196k까지늘어남