1. 이 경우 보면 검증 loss는 local인지 global인지는 모르지만 minimum찍은 이후 증가하는데, 검증 accuracy는 시작부터 끝까지 계속 증가하고 있음. 이러면 검증 데이터에 overfitting이라는 건가요? 아니면 아직 ovefitting이 안된건가요?
2. 이 경우는 loss랑 accuracy가 둘 다 local minimum에 있다가 수십 epoch 이후에 local minimum에서 탈출해서 global minimum에 갔다는 건가요? 아니면 overfitting인가요?
로스랑 정밀도는 다르게 계산되니까 필요한 값을 기준으로 쓰면됨
근데 "loss가 증가하기 시작하면 overfitting이다!"라고 이야기하는 곳들도 있어서 좀 헷갈리네요.
오버피팅 맞음 근데 필요한 지표의 성능이 더 중요할 뿐임
아 그렇군요. 답변 감사합니다.
사실 오버피팅 판단은 epoch에 따른 궤적이 아니라 파라미터 크기에 따른 궤적으로 보는게 더 좋음 그리고 자원 확보가 충분히 가능하다는 가정이라면 u-shape 커브가 아니라 double descent 커브라 그냥 오버피팅 신경 안쓰고 overparameterization으로 넘겨버리는게 더 효율적일 수 있음