지금 LLM은 해마 없는 사람과 비슷한 상태
입력받은 모든 프롬프트를 처음부터 끝까지 확인해야 정확한 대답을 함.(물론 선택적으로 읽어들이는 알고리즘도 있음)
지금 상태는 장기기억과 순간적인 기억만 있는 상태라고 볼 수 있겠음.
(다른 사람 말 하는거 따라하는거가 순간적인 기억이라고 볼 수 있고 그거는 30초만 지나도 완벽하게 따라하는 사람이 거의 없음.)
단기기억 알고리즘이 개발되야 추론 알고리즘에 들어가는 막대한 비용도 감소하고 실시간 학습도 가능해질것으로 보임.
입력받은 모든 프롬프트를 처음부터 끝까지 확인해야 정확한 대답을 함.(물론 선택적으로 읽어들이는 알고리즘도 있음)
지금 상태는 장기기억과 순간적인 기억만 있는 상태라고 볼 수 있겠음.
(다른 사람 말 하는거 따라하는거가 순간적인 기억이라고 볼 수 있고 그거는 30초만 지나도 완벽하게 따라하는 사람이 거의 없음.)
단기기억 알고리즘이 개발되야 추론 알고리즘에 들어가는 막대한 비용도 감소하고 실시간 학습도 가능해질것으로 보임.
근데 범부인 나도 아는 거 보니 이미 openai 내부에서는 실험하고 있을거 같음
ㅇㅇ 실험이 어느정도 진행됐으니까 올해안에 어느정도 해결될거라고 하는듯