Efficiently Modeling Long Sequences with Structured State Spaces Albert Gu, Karan Goel, and Christopher R´e


위 논문 기반으로 학습 중임.


RNN 기반 모듈링된 모델이라는 건 알겠는데 선형대수학 먹다가 체했다;;


간단한 신경망에서 LSTM -> SSMKernel 변환해보려는데 감도 안잡히네.


Mamba 공부하려면 S4 잡고 넘어가야 하는데 이거 공부해본 사람 도움좀...