[일반] 기기 상태에 따라 갑자기 loss 값이 뻥튀기 될수도 있음?

[익명(222.112)]

GAN 학습 중인데 어느 순간부터 갑자기 loss값이 100%~200% 점핑하고 결국 1000% 넘겨서 도중 학습 중단 시켰는데 이거 왜 이런거임?

지금 내가 학습하는 높북이 병신이긴한데 영향 있음?

[익명(49.142)]

1.lr을 줄여본다. 2.loss함수나 output layer에서 특이점이 있는지 살펴본다. 3.다른 optimizer를 사용해본다.

[익명(222.112)]

논문에 나온대로 따라한거 뿐인데...

[익명(222.112)]

iteration 1000번 반복인데 150번대까진 괜찮다가 갑자기 뻥튀기됨

[익명(222.100)]

GAN이 가끔 그런 사태가 일어나는듯

[익명(223.62)]

ㄹㅇ ㅋㅋ GAN 종특인듯

[익명(222.112)]

정말 그런 이슈가 있음? 아... 가뜩이나 학습속도 줘어 터지게 느린데 환장하겠네

[익명(118.235)]

Gan이 그런 이슈가 있어서 wgan이 각광 받았던거임.

[익명(222.112)]

아니 gan이라곤 했어도 gan에서 파생된걸 쓴다는 거지 진짜 gan 학습하고 있진 않음 real_Esrgan이라고 그거 학습 중인데

[36악장(dranhen)]

그때 모델 콜백해서 결과 뽑아보면 대부분 모드붕괴 되어있음