[일반] 원래 rnn이 진동이 있음?

[익명(wish4099)]

rnn 구현 실습하는데

회귀로 rnn+affine 구조 했더니 로스 감소는 하는데 진동하면서 내려가네

원래 basic rnn이 진동이 있는거임?

[익명(211.172)]

Vibe를 느껴봐

[없써지기(suitcase0114)]

optimizer를 바꿔보던지

[익명(eus2007)]

그냥 고차원 공간 자체가 굴곡 심하지 않나 조금씩은 항상 튈 수 있음