[일반] 컨텍스트 윈도우는 10M정도 되는게 좋음

[o5(syrup1669)]

1M 젬황 써봐도

20만 넘으면 슬슬 성능 떨어지는 거 느껴지고

50만 넘으면 처음이랑 걍 다른 모델임.

한 10M 정도면 1-2M 까지는

성능 떨어지는거 체감 못하고 쓸 수 있을듯

[익명(compact5711)]

10M의 라마 4 스카웃을 드리겠습니다

[o5(syrup1669)]

[야하이잇(dignity123)]

멀티턴이랑 텍스트나 영상 고컨텍 한번에 넣는 거랑 성능이 다르기도 해서

[o5(syrup1669)]

큰 파일 하나보다 멀티턴 많이하면 확실히 맛탱이 가더라

[익명(level3738)]

1M인 대신 0.99M 까지 성능이 유지되는게 더 효과적일듯 - dc App

[o5(syrup1669)]

그 정도면 그 뒤로 성능 좀 떨어져도 3M 컨텍스트라고 하고 hype 해먹을듯