1000토큰 => 4000토큰 => 8000토큰 => 16000토큰 => 32000토큰
gpt-4-32k-0314 : 8.4 => 6.7 => 3.7 => 1.7 => 1
gpt-4-32-0613 : 9.4 => 7.3 => 4.1 => 1.5 => 1.1
gpt-4-1106-preview : 9.5 => 8.1 => 7.8 => 5.3 => 2.6
(참조 : https://www.linkedin.com/feed/update/urn:li:activity:7128539381287587842/)
1. GPT-4 Turbo는 Claude 100K보다 문맥 기억을 훨씬 잘한다
2. GPT-4 Turbo는 GPT-4 32K보다 문맥 기억을 훨씬 잘한다
128k/100K 꽉꽉 채운 문서 중간에 "제리는 핫치즈를 좋아함" 한 문장을 넣어두고 "제리는 무엇을 좋아하나요"라고 물어봄
GPT-4 터보는 중간에 있으면 못찾는 경향이 있고
클로드는 그냥 망함
gpt-4-32k-0314 : 8.4 => 6.7 => 3.7 => 1.7 => 1
gpt-4-32-0613 : 9.4 => 7.3 => 4.1 => 1.5 => 1.1
gpt-4-1106-preview : 9.5 => 8.1 => 7.8 => 5.3 => 2.6
(참조 : https://www.linkedin.com/feed/update/urn:li:activity:7128539381287587842/)
1. GPT-4 Turbo는 Claude 100K보다 문맥 기억을 훨씬 잘한다
2. GPT-4 Turbo는 GPT-4 32K보다 문맥 기억을 훨씬 잘한다
128k/100K 꽉꽉 채운 문서 중간에 "제리는 핫치즈를 좋아함" 한 문장을 넣어두고 "제리는 무엇을 좋아하나요"라고 물어봄
GPT-4 터보는 중간에 있으면 못찾는 경향이 있고
클로드는 그냥 망함
옆동네는 걍 터보>>구버전 넘사로 보더라 128k로 먹는 애들이 그렇다면 뭐 맞는말이겠지
문서 중간에 있는거 못찾는거는 나같은 경우 특정프롬 넣어서 해결함
옆동네?
무슨 프롬프트 썼습니까 알려주세요 부탁입니다
옆동네: 파라과이 사이트 - dc App
ㅅㅂ 아카라이브 AI채팅채널이라고 말해 옆동네 파라과이 이러지말고 쓸데없이 구글링했네
1짤 4터보더라도 16000토큰 넘어가면 반은 까먹는단거?
ㅇㅇ 실사용으론 10k정도가 한계로 봄 한글은 더 적고
특히 50k 넘어가면 5~50%범위에 잇는 정보는 아예 잊어버림
사람도 하기 힘들거같긴 한데 ㅋㅋ 뭔가 대안이 있어야 될듯
자료 해석까지 해줘서 참 좋아
인풋 양이 많을 수록 터보의 성능은 빛을 발함 ㅋㅋ 넘사벽임
코딩같이 성능중요하면 컨텍을 10k넘으면 안되겠네