[일반] gpt 대화가 계속 누적되면 속도가 점점 느려지는데 정상임?

[익명(14.52)]

이거 좀 빠르게 하는 법 없을까

[익명(shore1232)]

정상임. 느려질뿐만 아니라 점점 멍청해져서 방 다시파야됨

[ㅇㅇ 1(211.109)]

llm 구조 자체가 append 해서 전송하는 구조라서 어쩔수가 없지 이건 처리 속도와 통신 속도의 발전이 일어나면 해결될 문제임

[개발용더미(sy1mn1t4y83k)]

시간 간격을 두고 띄엄띄엄 입력하지 말고 이어서 죽 하면 캐싱이 되어서 좀 빨리 반응할껄?