[일반] chatGPT에 장기기억윈도우 생긴 것 오늘 알았네

[익명(106.255)]

장기기억은 컨텍스트처럼 토큰 단위로 따지진 않아요. 대신 “요약된 키 정보”만 저장돼요.

+ 구조 특징:

• 장기기억 1개 항목 = 대략 300~800자 요약
• 평균적으로 1개 항목당 0.5~1.5KB
• 보통 수백 개 단위까지 유지 가능 (수 메가바이트 이내)

✅ 장기기억은 토큰 수 제한에 포함되지 않음
→ 즉, 아무리 오래되어도 컨텍스트 윈도우를 차지하지 않아요
→ 필요할 때 불러와서 붙이는 방식

이라고 함 ㅋ

[ㅇㅇ 1(39.112)]

이거 환각임 본인이 하는 말은 믿으면 안됨

[글쓴 ㅇㅇ(106.255)]

헐 그래? 근데 실제로 몇달전 다른 창에서 있었던 대화 히스토리에 있는 내용을 갑자기 얘기해 줘서, 물어보니 장기기억 윈도우 있다는데

[글쓴 ㅇㅇ(106.255)]

2023년 11월 6일 OpenAI Dev Day — 장기 메모리 기능 공식 발표2024년 2월~3월 GPT-4 Turbo 사용자 대상 점진적 롤아웃 (특히 Pro 유저 중심)2024년 3월 18일 이후 많은 사용자에게 기본 활성화됨 (옵션에서 "기억 사용하기" 선택 가능)+ 참고 이 기능은 기본적으로 GPT-4 Turbo 모델에만 해당 장기기억은 **ChatGPT 앱(웹/모바일)**에만 적용 (API에는 아직 없음) 기억 사용 여부는 설정에서 On/Off 가능 "Settings → Personalization → Memory"

[글쓴 ㅇㅇ(106.255)]

그냥 저 메모리 설정 얘기하는 것인듯 나름 장기기억이라 할수도

[글쓴 ㅇㅇ(106.255)]

괜히 설레였네 ㅋㅋㅋ

[글쓴 ㅇㅇ(106.255)]

기억 항목이 너무 많아지면 오래된 것부터 제거되거나 덮어쓰기 될 수 있음 (FIFO 비슷한 구조) 단순히 오래된 것보다, 덜 중요하다고 판단되는 항목이 먼저 사라질 수 있음 (가중치 기반 정리) 현재 사용자가 직접 용량 초과 여부를 확인하거나 설정하는 기능은 없음 라고함

[글쓴 ㅇㅇ(106.255)]

왼쪽 사이드바에 보이는 지난 30일/7일 등 히스토리 목록은 유저만 볼 수 있는 로컬 UI 데이터이고, chatGPT가 retrieve 할 수 있는 정보는 현재 열려 있는 대화 또는 Memory에 저장한 내용 뿐이며, 개인정보 보호 및 프라이버시 정책상 사용자의 모든 히스토리를 무제한 검색하거나 접근하는 기능은 구현이 불가함

[글쓴 ㅇㅇ(106.255)]

ChatGPT Enterprise / Team 버전에서의 데이터 공유 구조 ✅ 기본 원칙: 대화 내용은 기본적으로 “사용자 개인 단위”로 분리되어 있습니다. 즉, 같은 조직 소속 사용자라도 각자의 대화 히스토리는 개별적이고, 공유되지 않습니다. + 그럼에도 불구하고 가능한 공유 시나리오들 A가 쓴 프롬프트를 B가 자동으로 볼 수 있음? ❌ 기본적으로 불가 A가 만든 GPT 커스텀봇을 팀 내에서 공유 ✅ 명시적 공유 설정 필요 조직 내 공통 데이터셋을 GPT가 학습하여 사용 ✅ 가능 (→ via [Custom GPTs] or API 연결) 공동 프로젝트용 GPT 워크스페이스 사용 ✅ 일부 기능 가능 (Enterprise에서)

[글쓴 ㅇㅇ(106.255)]

개인정보 보호 정책상 사용자별 커스텀 RAG도 구현 가능성이 없는듯

[글쓴 ㅇㅇ(106.255)]

근데 로컬에서 돌아가는 chatGPT 앱에 RAG 달면 일단 장기기억 문제는 상당부분 해결될 것 같은데