[일반] 현재 ai의 가장 큰 한계가 뭐임?

[익명(118.139)]

긴 시간 동안 생각을 못한다거나 

뭐 지속적 학습 이런 말도 보이는거 같은데

특붕이들이 설명좀

[ㅇㅇ 1(125.129)]

장기기억만 해결하면.

[글쓴 ㅇㅇ(118.139)]

그게 뭔지 잘 이해가 안됨 하드디스크에 저장하면 되는거 아님?

[ㅇㅇ 1(125.129)]

@글쓴 ㅇㅇ(118.139) 아니 메모리에 입력되는거 말하는거아님. 지능존재가 갖는 기억력.

[글쓴 ㅇㅇ(118.139)]

기억력이란걸 엔지니어들은 어떻게 정의해서 접근하고 있음? 그리고 gpt랑 대화하면 얘전에 나눈 대화를 기반으로 해주던데 이건 뭐임?

[ㅇㅇ 1(125.129)]

@글쓴 ㅇㅇ(118.139) 후자는 뭔지모르겟고, 전자는 그거알면 연구원 해야되지 않을가?

[글쓴 ㅇㅇ(118.139)]

ㅋㅋㅋㅋㅋ그렇군

[익명1(grocery8445)]

@글쓴 ㅇㅇ(118.139) 후자는 기존 대화 내용을 요약해서 rag화 해두고 현재 대화 내용과 유사한 부분이 있으면 그 부분을 현재 대화 컨텍스트에 끼워넣는 방식일거임

[익명(wwindoww)]

@글쓴 ㅇㅇ(118.139) 일반적인 웹 gpt 기준으로 보면 대화내용은 서버에 저장을 하지 그걸 그 다음 내가 쓴 대화위에 계속 붙이는거임 나한테는 안보여도 그렇게 붙어서 보내니까 이걸 기억한다고 생각하는데 계속 대화하면 그게 계속 쌓이잖아? 입력한계도 있으니까 일반적으로는 옛날에 했던 말부터 지우는거지

[글쓴 ㅇㅇ(118.139)]

가중치 설정과 기억이 별개로 작동하는거 같은데 결국엔 하나로 합쳐져야 하는 것인가

[글쓴 ㅇㅇ(118.139)]

근데 뜯어고치기에는 gpu를 너무 많이 찍어낸 것이고

[천상열차(annoy6122)]

지속학습과 장기기억의 부재..그리고 일반화 능력?

[글쓴 ㅇㅇ(118.139)]

지속학습이랑 장기기억이 다른거?

[천상열차(annoy6122)]

@글쓴 ㅇㅇ(118.139) 지속학습은 기억력 자체만 말하는거고 지속학습은 모델이 변하면서 배우는 거라고 알고있어요

[글쓴 ㅇㅇ(118.139)]

장기기억을 지속학습으로 오타내신거죠?

[천상열차(annoy6122)]

@글쓴 ㅇㅇ(118.139) 아? 아, 네. 죄송합니다..

[2027AGI(richness1241)]

@천상열차 지속학습 개쩐다 - dc App

[천상열차(annoy6122)]

[익명1(grocery8445)]

너는 어릴 적 기억이 있고, 너의 현재 판단에 알게 모르게 그 기억이 영향을 주어 여러가지 판단을 하지만, 현재 ai는 딱 사전 학습된 가중치 기반+현재 입력된 컨텍스트(많아봐야 10만토큰 수준)으로만 판단함

[글쓴 ㅇㅇ(118.139)]

ㅇㅎ 이걸 엔지니어들은 어떻게 해결하려고 하고 있음?

[익명1(grocery8445)]

@글쓴 ㅇㅇ(118.139) 그걸 지금 잘 못하니까 문제라고 하겠죠? ㅋㅋ

[글쓴 ㅇㅇ(118.139)]

이건 양으로 해결될 문제가 아닌거 같은데 ㄹㅇ 겨울오겠군

[ㅇㅇ 2(218.54)]

@글쓴 ㅇㅇ(118.139) rag 시도 근데 성과가 좋지는 않음

[글쓴 ㅇㅇ(118.139)]

찾아보니까 에이전트 모드 비슷한 것 같군 근데 외부 검색을 한다고 해도 가중치가 바뀌지는 않는거 같은데 맞음?