[📪정보] 트랜스포머의 대안으로 떠오르고 있는 SSM

[익명(182.230)]

https://slashpage.com/haebom/6n5w9812gp7zwm4kpgze

인공지능 모델 범람의 시대에 우리가 한 번 짚고 넘어가야할 SSM - 해봄의 잡동사니

https://m.dcinside.com/board/thesingularity/392750?headid=&recommend=1&s_type=subject_m&serval=mamba

트랜스포머 대체 모델 Mamba 논문 리뷰

https://m.dcinside.com/board/thesingularity/395663?headid=&recommend=&s_type=subject_m&serval=ssm

지미애플 리트윗: mamba SSM

최근 주목 받았던 Mamba도 같은 부류임

[익명(873dvejis77)]

[익명(reiksguard)]

다들 뭔말인지 이해못해서 디씨콘만 달릴 댓글입니다 - dc App

[익명(119.67)]

[익명(202.14)]

일단 둘을 같이 쓰면 좋다라는 거네. 굳

[익명(211.109)]

빡대가리라 지적좀 해주셈. 일기예보처럼 과거 데이터를 기반으로 하는데, 더 저렴한 비용으로 다음에 나올 좋은 단어를 선택할 수 있게 도움을 준다는 거임??

[익명(fbjhc9a7z8wr)]

전에 올라온 개념엔지니어링이랑은 관계 없네 그건 진짜 그냥 사기꾼인가

[익명(o4dhhmeo9od9)]

대안 개많너

[익명(122.42)]

GPT로 쓴 건가? 뭔 그래서 SSM이 정확히 뭔지 얘기는 안하고 똑같은 문장만 반복하는 거 같네. SSM이 그래서 RNN이라는 거야 뭐야?

[익명(112.169)]

대충 요약하면 트랜스포머 구조보다 좋다는거임. Mamba 2.8B 모델 벤치 결과가 Transformer 기반 7B 모델과 비슷하거나 좋은 수준, 생성 속도 5배, 입력 길이 성능 손실 없이 무한 연장.

[ㅇ어오ㅗㄴ(104.28)]

트랜스포머의 대체제는 지난 몇년간 꾸준히,매우많이 제시되어 왔음.. 근데 다 논문에는 좋다고 해도 실제로는 안좋으니까 안쓰는거고. 물론 이번에 mamba는 좀 관심을 많이 받는것 같고(저자들도 정통성도 있고)해서 지켜볼만은 하지만 곧이곧대러 믿을순없을듯

[익명(landofooo)]

ㄹㅇ

[부패하는유전자!!!(sansss2015)]

오