논문보고 물로켓이니 게임체인저니 하는거 보니까 ai 겨울 한번 더 와야 할 거 같기도 하고
https://github.com/microsoft/Samba
음 슬라이딩 윈도우 어텐션 옛날에 개같이 까였던거 같은데 괜찮으려나;
이스라엘 Jamba도 그렇고 짬뽕으로 많이 만드네
그냥 s4 구조가 학습 및 추론을 비교적 빠르게 할 수 있게 만드는거지 mamba 자체는 좀 애매하지
개인적으로 이론쪽에서 NTK나왔을때 게임체인저다 했는데 .... 획기적인 발전이었지만 여전히 뭐 없는것처럼 비슷할듯.
논문보고 물로켓이니 게임체인저니 하는거 보니까 ai 겨울 한번 더 와야 할 거 같기도 하고
https://github.com/microsoft/Samba
음 슬라이딩 윈도우 어텐션 옛날에 개같이 까였던거 같은데 괜찮으려나;
이스라엘 Jamba도 그렇고 짬뽕으로 많이 만드네
그냥 s4 구조가 학습 및 추론을 비교적 빠르게 할 수 있게 만드는거지 mamba 자체는 좀 애매하지
개인적으로 이론쪽에서 NTK나왔을때 게임체인저다 했는데 .... 획기적인 발전이었지만 여전히 뭐 없는것처럼 비슷할듯.