[일반] 200만컨텍 안정적으로 돌리려면 몇년걸릴까

[익명(meeting2063)]

gpt 3.5가 4k였고

지금 제미니가 100만 컨텍이긴한데 실질 컨텍은 20만선이잖음 그이상가면 능지 떡락하니까 ㅇㅇ

200만컨텍정도를 능지하락 없이 굴리려면

몇년 존버해야되려나

[ㅇㅇ 1(59.27)]

내가 바락바락 쓰면서 느낀건데, 이게 능지가 파도치는 부분이 있음, 20 30 50정도에서 급격히 떨어졌다가 다시 올라가는데, 거기까지 가기가 힘들어서 굳이 이어서 쓸 필요성을 못느끼는데... 뭔가 혈 자체는 뚫려있는것같음 ㅇㅇ 개인적 체감임

[익명(meeting2063)]

아 뭔말하는지 알겠다 ㅇㅇ 중간중간 능지 떡락 파도지는 구간이 있긴한듯 근데 api론 그렇게 심하지않은거 같은데 유독 ais에서 심한거같아

[ㅇㅇ 1(59.27)]

@ㅇㅇ 사용자 과몰입 방지용으로 능지떡락을 만든게 아닌가 하는 음모론 재기하고 싶음 ㅋㅋ

[ㅇㅇ 2(59.29)]

구글 딥마인드에서 컨텍스트 관련 연구원이 4월인가 5월에 인터뷰 한 거 있을 걸.
https://officechai.com/ai/well-soon-have-10-million-context-windows-leading-to-superhuman-coding-systems-google-deepmind/
5월5일이네
"비용이
감소함에 따라 더 긴 컨텍스트도 활용 가능해집니다. 따라서 머지않아 1천만 개의 컨텍스트 윈도우를 확보하게 될 것으로 예상합니다."

[익명(meeting2063)]

와 그럼 200만컨텍 안정적으로 굴리는것도 생각보다 빠르게 되겠네 ㅋㅋㅋㅋ한 2-3년은 기다려야하나 싶었는데 ㅋㅋ 정보 ㄱㅅㄱㅅ

[ㅇㅇ 2(59.29)]

해결했다 라거나, 언제 한다 이런 말은 없지만, 읽어보면 좋을 듯.