기술적으로 구글보다 몇단계는 더 진보한 OAI 가 왜 무한컨텍스트 를 안하고 128K 로 굳혀놓겠음
안되니까 안하는거임
아마 컨텍스트캐싱 을 말하는거 같은데
대규모의 컨텍스트를 처리할 수 있는 연산리소스가 충당되지 않으면 무용지물인거임
기술적으로 구글보다 몇단계는 더 진보한 OAI 가 왜 무한컨텍스트 를 안하고 128K 로 굳혀놓겠음
안되니까 안하는거임
아마 컨텍스트캐싱 을 말하는거 같은데
대규모의 컨텍스트를 처리할 수 있는 연산리소스가 충당되지 않으면 무용지물인거임
안되는게 아니라 의미가 없는 것임. 지금의 트랜스포머는 길어진 컨텍스트에서 적절한 정보를 뽑아낼 능력이 없음.