[❓질문] 학습시킨 모델 다시 불러서 학습하면

[익명(58.123)]

처음에 loss 튀는거맞음? 데이터셋 배치나 그런거 다 그래도인데 0.005 이렇게 나오다가 

저장하고 다시 로드하면 0.03 이렇게 튀니까 틀린거 같아서 계속고쳐보는데 고칠부분을모르겠음

원래 그런거임?

[컴퓨터비전(kimhappyboy)]

가끔 있는 일이긴함. 그거 저장 제대로 안됐거나 그냥 수치 달라져있거나 그럼. 비교해가면서 다시 맞춰야함..ㅋㅋ

[익명(221.165)]

옵티마이저의 모멘텀이랑 감쇠까지 불러왔음?

[익명(amaze2097)]

adam에 붙은 1차 2차 모멘텀들이나 스케줄러때문에 lr이 튀어서 그럴듯

[익명(118.235)]

옵티마이저랑 스케쥴러까지 잘 불러왔는지 체크하고 학습과정 자체에 랜덤성이 있는지도 체크하고 에포크 도중에 떨군 체크포인트면 에포크 딱 끝난애로도 테스트해봐야함