연구중인 모델이 오버피팅이 너무 심해서 어떻게든 짱구 굴려보고 있는데..
Data Augmentation이나 Regularization같은 기본적인 기법은 다 시도해봤고 이제 남은거는 transfer learning이나 dropout정도 인데 요즘 드랍아웃을 쓰는 모델은 본 적이 없네요
Data Augmentation이나 Regularization같은 기본적인 기법은 다 시도해봤고 이제 남은거는 transfer learning이나 dropout정도 인데 요즘 드랍아웃을 쓰는 모델은 본 적이 없네요
dropout 사장 안됨,최근의 연구 추세인 Transfromer 부터가 Dropout을 사용함 ㅇㅇ
가장많이쓰는 transformer 에 기본적으로 dropout 이 0.1씩 들어가지않나???
드랍 아웃 안쓰는 모델을 찾기가 힘들텐데