[📪정보] 2026년에 장기기억 잘하면 열릴 거 같은데?

[익명(221.167)]

이 논문에 대해서 설명해봄

이 논문이 나온 배경은 이러함 

일반 트랜스 포머 계층구조는 모든 토큰을 엮어서 완벽하게 기억하려고 함 

성능이 좋으나 계산 비용이 제곱 으로 증가하고 그리고 추가적으로 주의력 희석 문제에 의해서 토큰이 길어지면 길어질수록 장기기억 문제가 생김 

그래서 나온 아키텍처가 RNN 계열들 인데, mamba 와 같은 모델들은 과거의 정보를 고정된 크기로 고정하여 압축함 이러면 계산 비용 급증 과 주의력 희석 문제에서 자유로워 질 수 있지만 압축하는 과정에서 필수 적으로 정보손실이 생김 

그래서 이 두가지의 장점을 합친 이상적인 모델이 필요하게 됨 

RNN 처럼 속도는 빠르고 일정하면서, 트랜스포머 처럼 긴 문맥에서도 성능이 유지되는 모델

그래서 이 논문의 저자는 하나의 아이디어를 떠올리게됨 과거의 정보를 메모리에 저장하는게 아니라 가중치에 실시간으로 업데이트 하는것 

즉,

지속학습 임 

일단 첫번째로 사용자가 프롬프트를 입력하면 그 프롬프트를 기반으로 자신의 가중치를 실시간으로 업데이트 함 

이것을 전문용어로 inner loop 라고 함 

그런데 여기서 모델이 프롬프트로 입력된 것의 문맥을 잘 압축해서 학습하고 있는가가 중요한데 이 '실시간 학습 능력' 그 자체를 단련하기 위한 방식으로 

메타 러닝 기법이 사용됨 

딱 들어봤을때 좀 난해하게 느껴질거임 

이걸 쉽게 풀어써보면 이런 말임 

순서대로 풀어보자면

1. 모델에게 프롬프트 입력값을 던져줌

2. 모델이 입력값을 토대로 자기나름대로 문맥을 추출하여 실시간 학습함 (inner loop)

3. 여기서 메타러닝이 작동하여 제대로 문맥을 추출했는지 채점하여 평가함 

4. 평가를 토대로 실시간 학습하는 과정에서 부족한 부분을 보완하는 강화학습을 거침 

5. '실시간 학습하는 방법' 그 자체를 inner 루프 와 outer 루프 두가지 시스템을 통해서 단련함, 간단하게 말하자면 '학습하는 방법 자체를 강화학습' 하는 거임 

6. 그렇게 나온 모델을 지속학습형 아키텍처를 가진 상용모델로써 출시 함 

[천사다천사(jjtheman999)]

[귀가있는로봇의노래(function8845)]

이거 지속학습은 하는데 니들인어헤이스택같은거 성능이 많이 구림

[글쓴 ㅇㅇ(221.167)]

대화로그를 실시간으로 rag 에 업데이트 해주면되지않을까