7ceb897fbd826df03ae798a213d3341d94ed6d8969f986f29b0f

7ceb897fbd826df03ae798bf06d604031fdee37853c409c4f9







1.GPT4터보는 토큰 128K고 길게대화할수록 맥락기억을 훨씬잘한다고한다 기존4랑비교해서 32K까지 측정해도 압도적으로잘함

2.클로드2 100k랑비교해서 클로드2는 토큰이 많이 뻥튀기되서 길게대화하면 기억을 훨씬못하는데 터보는 길게대화하면 훨씬 더잘기억한다고함
3.기존 GPT4는 8k/32k인데 32k는 엄청비싸다고한다 32k 4배토큰에 32k까지 대화해도 훨씬 맥락기억을잘함


4.속도가 훨씬빠른데 능지도상승하고 출력토큰은 2048에서 두배늘어난 4096임 즉한번에 답변할수있는양이 4096토큰까지가능


5.여전히 128K토큰을 100프로 맥락기억유지는못한다고함
길게대화하면할수록 점점 기억력이 희미해짐

2eb9d223e7d439f43de9d2ed4f8177687464fdb079a66e3ed20767a5bd419b9c9d82335205bda6c8275d1298cfa96d0c628a64f1835be53b166aa033212a1928d71adf91664f01188ac0d8cd0fe8148b