[❓질문] batch size를 높히면 loss 노이즈가 줄어드는거 맞음??

[딥붕이(180.228)]

배치 사이즈 4로 하니까 loss 그래프가 엄청 튀던데

[익명(106.102)]

사이즈 4는 뭐냐 메모리 부족한거 아니면 256 잡자

[익명(118.235)]

detection은 16도 버겁다

[익명(106.102)]

당연히 1개보고 학습시키는것 보다는 100개보고 학습시킬때 제대로 학습이 될테니까 배치는 클수록 좋은게 맞고 로스만 볼게 아니라 제대로 학습되고 있는게 맞는지 한번 의심해볼 필요 있음 만약 제대로 되고 있는게 맞다면 그냥 배치사이즈는 손때는게 맞아 보인다

[익명(rechido)]

ㅇㅇ - dc App

[익명(223.38)]

그게 수학 정리처럼 꼭 100%인게 아니라 그냥 경향성임 - dc App