만약에 한 모델이 2026년 9월에 나오고, 2027년 1월에 리만가설이 증명됐다고 치자
2027년 1월에 그 모델한테 리만가설이 해결됐냐고 물으면, 해결하기 매우 어려운 문제라고 대답함.
그래서, 사용자 A가 리만가설의 상세한 증명을 컨텍스트로 제시해주어, ai는 그것을 납득함. (사실 납득할지도 모르는게, ai의 데이터 편향 때문에 옳바른 증명도 틀렸다고 주장할 가능성이 높음)
그 이후 ai에게 물어보면 리만가설은 증명했다고 대답해줌.
그런데, 다른 세션의 사용자 B가 리만가설을 묻는다면, ai의 지식이 초기화되어 해결되지 않았다고 대답함.
이것에 대한 현재까지의 해결 방법은, 모델 재학습이지만,
그렇다고, 컷오프가 최신인 모델을 학습시키기에는 컴퓨팅 비용이 너무 많이 듦.
퓨샷 러닝 또는 메타 러닝, 이것은 언제쯤 해결될 것인가
미국 대통령이 누군지 불으면 바이든이라고 답하는거랑 같은 문제. 지금까지의 해결 방법은 매번 검색하거나 시스템 프롬프트에 박거나
제대로 된 에이전트 수준에서 풀 수 있는 수준. 본글 내용처럼 근본적 해결법은 아니지만요
오히려 그런 특성이 없으면 민감정보를 못물어요