10만자 훨씬 넘는 10만토큰도 진작에 찍었던거고
몇백만 토큰 내에서 콕 집어서 검색하는거도 원래 됐었음
익명(61.254)2025-02-04 04:58
답글
너가 말하는 장기기억은
몇십만 토큰 내에서도 정확히 찾아달라고 안해도 알아서 떠올리는걸 원하는거 같은데
그정도가 깡으로 되려면 지금보다 성능 수십배 더 좋아져야 자연스럽게 가능함
근데 ai 2개 물려서 기억해야할 거 찾는 호출 추가하면 요구 사양 훨씬 내려가고
거기에 db+외부프로그램까지 붙이면 지금도 가능함
장기기억 된다고 해도 리소스가 충분할지 모르겠음
10만자 훨씬 넘는 10만토큰도 진작에 찍었던거고 몇백만 토큰 내에서 콕 집어서 검색하는거도 원래 됐었음
너가 말하는 장기기억은 몇십만 토큰 내에서도 정확히 찾아달라고 안해도 알아서 떠올리는걸 원하는거 같은데 그정도가 깡으로 되려면 지금보다 성능 수십배 더 좋아져야 자연스럽게 가능함 근데 ai 2개 물려서 기억해야할 거 찾는 호출 추가하면 요구 사양 훨씬 내려가고 거기에 db+외부프로그램까지 붙이면 지금도 가능함