[❓질문] 배치사이즈 늘린거랑 정확도 차이가 심하게 나는데

[106.101(kymco1)]

머학생인데

교수님이 써준 로직에

캐글꺼 데이터셋 그냥 갖다 박아보니까

정확도 30~40프로대 운지하던거

그냥 배치사이즈만 16->32 변경했는데

두번 학습만에 바로 99로 떡상함

원리가 뭐임?

배치사이즈 그냥 한번에 돌리는 크기정도 아님?

- dc official App

[익명(118.235)]

딥러닝이 사기극인 이유

[106.101(kymco1)]

ㄹㅇ 뭐임??? 중간고사 대체과제인데 이렇게 쉬울리가 없는데 먼가 잘못된거ㅜ아님? - dc App

[106.101(kymco1)]

먼가 이유가 있을거같은데 - dc App

[22(121.173)]

분야에 따라 다를수도 있는데 나의 경우에는 데이터셋에 비해서 배치사이즈가 너무 작은거 아니면 크게 변화는 없음 오히려 LR이 크리티컬한 경우가 많았음. 아마도 성능이 파악 올라가는 특이점에 도달하면 99고 그전에 끝나버리면 40이거나 오버피팅 오지게 됐을수도 있지

[106.101(kymco1)]

하아 모지.. - dc App

[22(121.173)]

난 오히려 99%가 더 무섭다. 테스트데이터로 제대로 잰거 맞지?

[106.101(kymco1)]

ㅇㅇ 배치사이즈 16으로 하면 30퍼대 40퍼대 왔다갔다하는데 32로 늘리니까 첫 시도때만 40퍼대 나오고 2번째부터 99~98고정임;;;; - dc App

[Sisu(tljofcm55555)]

배치 16으로 학습률좀 크게늘려서해봐

[106.101(kymco1)]

근데 그러면 30~40퍼대 운지하는데 과제 목표가 90프로 이상임... 배치사이즈가 한번에 학습할 양인건 맞잖아?? 근데 이걸 늘린다고 정확도가 갑자기 개떡상하는게 이해가 안가서... 문제가 없는거면 그냥 99퍼인채로 내려고 하는디;;; - dc App

[Sisu(tljofcm55555)]

일단 테스트랑 훈련세트 확실히 분리해놓고 하는거맞아?? 훈련세트 돌려서 테스트가 99가 나오는건 문제가 있는거같은대

[106.101(kymco1)]

캐글에올라온 데이터셋에 트레이닝이랑 테스트가 분리가ㅜ되어있는 파일이였어.. - dc App

[Sisu(tljofcm55555)]

코랩을 뭐 공유해보던가 코드를 올려보던가 하는게어때

[106.101(kymco1)]

아 ㅇㅋㅇㅋ 집가서 함 올려봄 - dc App

[106.101(kymco1)]

코랩 링크 올렷음

[나진(doom3750)]

옵티마이저 뭐쓰노 - dc App

[106.101(kymco1)]

아 지금 독서실인데 방금 해결함 일단 학습 모델 구성할때 레스넷 쓴거부터 에러였고 위에 오버피팅 말 듣고 찾아보고나서 덴스넷으로 바꿨음 그리고 95프로이상 적중률 나왔다는 캐글 글 보고 그 사람이 rmsprop 썼다길래 adam에서 바꿔보고 훈련,검증적중률 97프로 나왔고 랜덤 이미지로 예측 돌려보니 레이블 맞게 잘 나옴 헤헤 - dc App