[일반] ais원래 컨텍 쌓이면 능지 낮아지는건가

[익명(meeting2063)]

15만 토큰 넘어가니까 추론 해도 걍 능지 자체가 박살나는거 같은니 착각인가

[익명(210.204)]

정확한 딱 그쯤에 걸림

[익명(meeting2063)]

미치겠네 ㅋㅋㅋㅋ기술발전 좀 빨리 됐으면 좋겠다 최대토큰 100만이면 뭐하냐고...

[ㅇㅇ 1(125.130)]

ais뿐만 아니라 모든 llm은 컨텍쌓이면 멍청해짐 제미나이가 그나마 덜한편

[익명(meeting2063)]

그건 그렇긴한데 api로 쓸 땐 30만 토큰까지도 괜찮았는데 ais로 오니까 15만 넘어도 버벅이는게 너무 아쉽다

[ㅇㅇ 1(125.130)]

@ㅇㅇ 버벅이는건 사이트 자체문제일걸 그거 좀 꼽긴함

[익명(meeting2063)]

@ㅇㅇ 아 버벅인다는게 물리적 렉 말고 능지 떡락하는걸 말하는거였음 ㅋㅋㅋ암튼 쌀먹 최대한 활용해볼랬는데 아쉽네

[Weisser_Adler(adler1)]

[Weisser_Adler(adler1)]

그래서 최대토큰이 의미가없음 어디까지 100%인지가 중요