[일반] 왜 무한 메모리 AI 는 안되는거임?

[익명(118.6)]

저장장치에 저장해두는게 불가능함?
이전 대화를 기억 못하는 원리가 뭔지 궁금함

[늙병필(umbad)]

첫키스만 50번 째

[익명(wooden1857)]

일부러 저장 안하는거임

[익명(118.6)]

그니까 그 이유는 ㅜ머임?

[익명(wooden1857)]

너무 저장할 게 많아져서

[익명(118.6)]

개인 저장장치에 저장하면 되는거 아님?

[바다기린(hancomputer)]

우리가 사용하는 모델은 스냅샷 모델으로 추정됨. 회사에서 일정 기간동안 학습돌리고, 정렬을 한 뒤에 내놓는 완제품임. 그래서 더 이상 추가학습은 안되는 모델임. 그런데 oai가 지금 출시한 메모리 기능은 인풋 프롬포트란에 주요 정보를 추가적으로 입력하는거임. 그래서 ai는 사용자의 대화를 기억하는게 아니라, 사실 메모리 칸에 있는 내용을 매 인풋마다 새롭게 다시 입력해 놓고 있는 방식임 그런데 ai가 현재 인식할 수 있는 컨텍스트의 양(한 번에 소화할 수 있는 분석 텍스트의 양)은 한정되어 있고, 그렇게 때문에 현재의 메모리 방식으로는 무한 메모리가 힘들다는 거임. 아무리 최적화를 잘해도 일정 토큰 이상의 인풋을 넘어가면 모델이 해석을 못하니까

[익명(118.6)]

결국 다른 방식으로 모델 만들어야 무한 메모리가 되겠네

[바다기린(hancomputer)]

아예 컨텍스트 자체를 존나 늘려서 인풋으로 책 수백권쯤 넣어도 상관 없도록 하든가, 아니면 사용자 인풋에 가중치를 존나게 때려박아서 실시간으로 학습이 되게 하던가, 전혀 다른 방식을 개발하든가… 마소에서는 내년쯤에 무한 메모리 가능하다고 언급 했는데 어떤 방식을 생각중인지는 모르겠음