gpt, codex, blenderbot 자꾸 언급하는데그런것들은 은닉층 출력을 재입력하는게 아니라 그냥 겉으로 드러난 텍스트 정보만 입력하는거임.
그중에서도 gpt3, codex는 아예 입력에다가 통째로 넣을 수 있는 텍스트 개수를 기억력이라고 칭하고 있고,
blenderbot은 위에보단 좀 낫지만, 이것도 텍스트 정보를 잠시 저장했다가 다시 통째로 넣는 정도임.
사람은 고민할때, 출력된 정보가 아니라 머리속에서 생각한 내용 자체를 단기기억으로 저장할 수 있음.
이런것을 가능하게 하는 아키텍쳐는 현재 전혀 개발되지 않았음.
개좆도 모르면서 선형충드립 적당히치셈 ㅋㅋ 문제점을 파악하고 개선할 생각을 해야지 시바 종교도 아니고 현실부정하고 기도하면 Agi가 오냐?
사람은 고민할때, 출력된 정보가 아니라 머리속에서 생각한 내용 자체를 단기기억으로 저장할 수 있음. <~ 이건 어케 앎?
방금 뭐 생각했는지를 기억 못함?
체감을 얘기하는 거임?
체감이 아니라 실제로 1초전에 내가 무엇을 생각했는지 기억을 못하냐고 묻는거임 ㅇㅇ 현재 Ai는 못함
감각 정보를 말하는 거임 언어 정보를 말하는 거임?
나 문과인데 사람이 생각하는건 겉으로 드러내지 않은 텍스트값 아니냐? - dc App
'생각한 내용 자체를 단기기억으로 저장한다' 흠 감각정보를 언어정보로 변환하는 과정에서 이미 로스가 일어날텐데 이건 어떻게 생각함
그 과정에서 손실이 일어나는지에 주목하는것이 아니라 그냥 그것이 가능한지에 대한 것임
정보처리이론에서 말하는 '기억저장고' 역할을 하는 아키텍처는 확실히 없지
그런데 가능하다면 어떤 형태로 다가올지 모르겠다 우리가 기억의 원리라는 거 자체를 완전히 오해하고 있었던 걸지도 모르고
이해해라 특슬람들은 인공지능 쉴드못치면 죽는 병에 걸림
누구말이 맞는지 잘 모르겠지만 일단 개추
우리들은 개선 못함 그러니 특붕이들은 단지 좋은소식 희망찬 소식만을 바라는거임 - dc App
특이점 종교인거 이제암?
맞는 말이네용 추천드려용 - dc App
blenderbot2.0은 그냥 딥러닝이 학습을 할때 long term memory행렬을 memory로 주고 이 memory를 사용하도록 유도하는 데이터셋을 활용하여 기억력을 가능케한것임.모델이 입력받은것을 long term memory 필요한 데이터는 저장하고,필요없는 데이터는 덮어쓰고 memory에서 필요한 데이터를 추출에서 모델과 상호작용하는 방식이지
선
형
특갤이라 어쩔 수 없음. 니가 아무리 맞아도 여긴 얘네 입맛에 안맞으면 욕먹는게 진리임 ㅋㅋ