1. Cyclic structure network


제아무리 신경망이 뇌 구조를 모방해서 나왔다고 해도 비순환구조(acyclic) 네트워크이기 때문에

방향이 정해져있고 이에 따라 역전파하는 방향도 정해져있어서, 레이어가 쌓이면 쌓일수록 성능은 linear하게 증가하는 반면 학습속도는 exponential하게 증가함

하지만 뇌 구조는 순환(cyclic) 네트워크 구조이기 때문에 훨씬 효율적으로 추론/학습 가능함. 하지만 컴퓨터로 구현하면 계속해서 신호가 맴도는 구간이 생기고, 제어하기가 너무 어려움

관심있는 게이들은 '작은마을 네트워크'를 검색해볼것 -> 한글로 안나오네 https://www.pnas.org/doi/10.1073/pnas.2401257121#:~:text=We%20are%20interested%20in%20studying,in%20echo%20chambers%20and%20polarization. 걍 이거보셈


2. sentiment multimodal


인간의 추론/기억 체계는 시각, 청각 등 다양한 감각정보가 혼합되어서 이루어지는 구조임

그나마 어떻게 어떻게 멀티모달 임베딩 방법으로 시각 언어모델(VLM) 같은걸 만들고는 있는데 알다시피 성능이 매우 처참함. o1같은데 사진 데이터 넣어본애들은 눈치챘을거임

근데 사람은 이 시각정보를 바탕으로 지식을 만들고, 또 반대로 지식이 시각정보를 인지하는데 영향을 끼친단 말이지. 착시현상이나 피로해지면 눈 백혈구 움직임 보이는게 대표적임

사람은 다른 종류의 정보들을 '뇌 신호' 를 통해 자유롭게 교류하는 반면 현재 AI는 서로 아예 다른 모델을 만들어서 억지로 끼워넣고 있음. (Unet - ViT)



처음엔 장기기억이니 뭐니 이런게 남은 난제 정도로 생각했는데

다 근시일안에 해결될거같아서 더 어렵게 설정해봄;; 그래도 이건 내후년 이후에나 해결되겠지?