[📰논문] 한국 저자가 쓴 ViT를 설명하는 논문이 나왔다

[지잡컴공(wlwkqzjarhd)]

multi-head self-attention은 low-pass filter, convolution은 high-pass filter고

convolution은 texture에 집중하지만 multi-head self-attention은 shape에 집중한다는 사실 또한 새로 알게 된 사실이네요.

깃헙까지 공개해주고 그저 갓갓 ㅠㅠ

https://arxiv.org/abs/2202.06709

https://github.com/xxxnell/how-do-vits-work

[익명(58.126)]

니 임마 예전에 windforces인가 뭐시기 걔 아니냐?

[익명(58.126)]

말하는게 비슷해

[지잡컴공(wlwkqzjarhd)]

나도 들어본 닉네임이긴 한데 동일인물 아님