일반 지인들한테는 얘기해보려고 해도 전혀 공감을 못하고 해서 여기에 질문해봄
한줄요약; 지금 쓰는 모델들이 다 한 데이터베이스에서 내 정보를 조회/업데이트 하면 좋지않음?
나는 이리저리 개인적 얘기도 많이 하고 도움도 많이 받고 하는데 (대충 분석해보니 업무, 정보검색, 자기계발, 서비스기획, 개인-감정, 일정관리, 인사이트 등으로 분류해주네)
상황에 따라서 맞는 llm 앱들 쓴단말야? 챗지피티를 젤 많이 쓰고 (대화 인터페이스가 좋아서 그냥 일상적인 얘기도 많이 함)
요새는 그록 그리고 때때로 perflexity, ai 스튜디오, 제미나이, 클라우드 까지 여러개 쓰는데.
지금까지는 와 감탄만 하면서 쓰다가, 이게 매번 내가 원하는 컨텍스트나 정보를 입력해줘야하고 하는게 귀찮더라고?
근데 이게 복잡한것도 아니고 나와 관련된 정보랑. 다른 앱들이랑 나눈 대화까지 포함해도 기껏해야 100페이지도 안되는 엄청 적은 정보일텐데.
걍 이 데이터는 따로 보관되고 모든 llm 앱들이 이거 참조해서 대답해주면 안되나?
나는 솔직히 지금 모델 수준으로도 대부분의 대화에서는 만족하거든. 그래서 이런건 그냥 지금 있는 기술로도 쉽게 해결할 수 있는 문제일거같은데
(물론 장기기억이 나오면 다 해결되겠지만 언제 어떤식으로 될지 모르니까)
이 생각에서 내가 뭔가 놓친게 있나? 구현의 어려움이라던지, 어떤 이유때문에 불가능하다던지 그래서 안나오는건가?
아니면 나만 이런 니즈가 있고 보통 사람들은 걍 아무런 불편함 없이 쓰는건가?
스마트폰 안에 또 스마트폰을 만들자는 짓거리임 오히려 비효율임
데이터 통합은 좋지만 그걸 써먹는 기능자체는 적절히 분류돼있어야함
잘 이해가 안되는데 어떤 맥락에서 이렇게 생각하는지 얘기좀 llm 자체가 그런 정보가 필요없을 정도의 응답을 하게 될건데 굳이 정보 인풋을 만드는게 무의미하다는 관점인가?
아 llm에 한정지은 얘기였구나 미안하다 난 또 대충읽고 디시앱이랑 은행앱, 중고거래앱 다 합치자는 소리 하는줄 ㅋㅋㅋ llm한정하면 니얘기가 무조건 옳다
아하 그런 의도는 아니였고 그냥 내가 챗지피티랑 얘기한거 그록이랑 얘기할때도 알고 있었으면 하는? 사소한 니즈에서 시작된 생각임
장기기억 없으면 기존 정보 아무리 많아도 활용 못하잖슴
그래서 rag나 cag같은게 있는거 아님? 이미 프로덕션 레벨에서 이리저리 많이 활용되고 있는걸로 아는데.. 나는 이게 개인화 측면에서도 적용되면 좋지 않겠냐는 의미였음. 구현이 어려울거같지도 않고
트위터에서 ai연구자들이 논쟁하는 것 보면 rag 써도 한계가 있는 것 같던데 그 이상은 나도 비전공자라 모르겠음
rag써도 한계는 당연히 있는데 일반화된 관점에서 그렇고 사실 개개인 (특히 내가 사용하는 정도)으로 놓고 보면 머.. 내가 필요로 하는 나의 정보?는 진짜 적을거같아서 rag 아니고 걍 컨텍스트 베이스로도 다 들어갈거같은데 이게 어떤 하나의 데이터 관점에서 유지,관리가 전혀 안되는거지 이런게 데이터화 되어서 모든 llm 앱들에서 쉽고 간편하게 접근할수 있으면 어떨까 하는 니즈였는데 뭔가 다들 딱히 이런 니즈는 없나보네
애초에 장기 기억이 안되는 걸 아니까 그냥 대충 짧은 컨텍스트 내에서 짬 때릴 수 있는 일 아니면 애초에 안시킴
근데 내 체감상 사실 개인적인 측면 (뭔가 문제해결이 아니라 스케쥴관리나 상담, 개인적 얘기같은 '정답이 없는 얘기들)에서는 높은 수준의 장기기억까지는 필요 없는거같아서 걍 아주 사소한 information들인건데 (심지어 짧은 컨텍스트에 넣을 수 있는) 이게 공유가 안되고있어서 답답하다고 느꼈나봄
나도 이 생각은 하고있긴했음 근데 API로 구현해야할거같은데 그러면 일반인들이 많이 쓰려나?
나도 api 사용해서 애플리케이션 형태로 만들면 비용문제로 현실적으로 서비스화는 어렵다고 보긴 하는데 뭔가 다른 형태로 해결할수는 없나 싶기도 하고? 뭐 내 대화내용 자동으로 긁어서 요약해서 나만의 컨텍스트를 up to date로 유지한다던지..? 하튼 나만 이런생각하나 궁금해서 올려봤음