[📪정보] 올라간 정보인지 모르겠지만 무한 LLM 컨텍스트 MemGPT

[익명(121.135)]

https://www.reddit.com/r/singularity/comments/17cojbi/memgpt_towards_llms_as_operating_systems_uc/

가상 메모리 방식으로 프롬프트의 크기를 기하급수적으로 증가 시킬 수 있나봄

AGI로 가는 길의 초석이 될 수도 있는 일임

근데 속도가 많이 느린 것 같음 아무튼 연구적으로 의의가 있고 

발전한다면 상당한 퍼포먼스를 보여줄 것 같다

[슈퍼130클럽(y3xxqs89b55t)]

전혀 먼 소린지 몰루겠누...ㅜ

[익명(121.135)]

간단히 운영체제에서 가상으로 메모리 돌리는 것에서 응용해서 가상으로 프롬프트 작성 토큰 값을 늘린거임 여기 말로는 무제한에 가깝다고 하는데 논문이 해석되고 응용된 결과물이 좋다면 상당히 오픈소스측에서 엄청난 발전이 일어날거임

[슈퍼130클럽(y3xxqs89b55t)]

그 램카드에만 제한 두는게 아니라 저장소에도 할당하는 그거? 그럼 이론적으론 용량만 계속 늘리면 가능이야 할텐데 보통 컴퓨터야 16기가 머 이런 식이지만 AI쪽에선 어느정도 스케일일지 상상이 안가넴

[익명(121.135)]

토큰 값을 가상에 저장해놓고 기억력을 끌어올린거라 보면 됨 사용자와의 대화를 보다 잘 기억하고 중요한 정보값은 가상메모리에 저장시키는 방식임 한계점은 gpt4를 사용할 수 밖에 없다는거고 폐쇠적인 방식의 ai들이 나온다면 이 기술의 의의는 옅어지지만 오픈소스가 커질수록 MemGPT를 이용해 LLM의 저장방식의 효율을 늘릴 수 있다는 점이 매우 기대되는 부부닝ㅁ

[ㅇㅋ(ijh2005)]

뭐 저게 효과적이면 자율연구가 참고해서 개쩌는 모델만들겠지

[익명(121.135)]

논문 자체는 12일날 나온거라 되게 최근임 OS를 기반으로 한 가상메모리 방식에서 아이디어를 얻은거라 되게 흥미로움