장기기억 해결돼야지 지금 LLM은 채팅 하나만 벗어나도 기억못함, 아니 채팅 하나에서도 줄 좀 길어지면 전내용 백지상태로 까먹음
지금은 7만 토큰이 한계인듯
이전 채팅을 기억하는거 있지않냐 하고 반박해도 그건 그냥 RAG방식임 검색해서 키워드를 찾아 토큰을 사용하는것뿐 엄밀히 말하면 기억하는게 아닌지라
@ㅇㅇ1(219.255) 난 RAG만 더 완벽해지면 그게 장기기억이자 완전기억이라 생각하는데, 인간이 전화번호 기억 못하지만 전화하는데는 문제 없어진것처럼 RAG뒤져야지, 연락처 뒤져봐야지 판단만 할 수 있으면 충분하다 생각함
장기기억 해결돼야지 지금 LLM은 채팅 하나만 벗어나도 기억못함, 아니 채팅 하나에서도 줄 좀 길어지면 전내용 백지상태로 까먹음
지금은 7만 토큰이 한계인듯
이전 채팅을 기억하는거 있지않냐 하고 반박해도 그건 그냥 RAG방식임 검색해서 키워드를 찾아 토큰을 사용하는것뿐 엄밀히 말하면 기억하는게 아닌지라
@ㅇㅇ1(219.255) 난 RAG만 더 완벽해지면 그게 장기기억이자 완전기억이라 생각하는데, 인간이 전화번호 기억 못하지만 전화하는데는 문제 없어진것처럼 RAG뒤져야지, 연락처 뒤져봐야지 판단만 할 수 있으면 충분하다 생각함