79e8d272bcd06ea437ea84b61089743982729f89f43bb462eed312dc4858d5a5824ca597894fb87c2d2c3902658d51822034cfefd8d3b202bc5e72f84f0a7d18f1a15cfce3cf2f0797ccb8debdfdfa57684afb7afdac

29ead323b7d13ef63dbc84ed4588203fe2082db95d29c70ff305c6f7ead1d94dca459766beb22dee4ebb04eeb453e3cddc150218092d2c09b0c7df57465140e74d095052652922778211fc1e70b490

1000토큰 => 4000토큰 => 8000토큰 => 16000토큰 => 32000토큰

gpt-4-32k-0314 : 8.4 => 6.7 => 3.7 => 1.7 => 1

gpt-4-32-0613 : 9.4 => 7.3 => 4.1 => 1.5 => 1.1

gpt-4-1106-preview : 9.5 => 8.1 => 7.8 => 5.3 => 2.6

(참조 : https://www.linkedin.com/feed/update/urn:li:activity:7128539381287587842/)

1. GPT-4 Turbo는 Claude 100K보다 문맥 기억을 훨씬 잘한다

2. GPT-4 Turbo는 GPT-4 32K보다 문맥 기억을 훨씬 잘한다


128k/100K 꽉꽉 채운 문서 중간에 "제리는 핫치즈를 좋아함" 한 문장을 넣어두고 "제리는 무엇을 좋아하나요"라고 물어봄

GPT-4 터보는 중간에 있으면 못찾는 경향이 있고

클로드는 그냥 망함