[❓질문] 배치방식에 대해서 궁금한점

[딥부이(211.192)]

배치사이즈를 100, 배치를10으로 한다면
내가 이해한 바로는 1에폭당 배치10개를 학습시켜서 평균 가중치를 주는식인데 맞나?

맞다면 bchw방식에서 10개의 배치는 어떤식으로 저장해줘야하지?

난 기존에 h,w,c,배치사이즈,배치 이런식으로 저장했다가 썼걸랑

아니면 새로운 배열에다가 bchw를 10개를 저장시켰다가 평균값을 내면되나?

[글쓴 딥부이(211.192)]

굳이 cnn을 기초단계부터 만들어서 고생을 할 필요가 있나 싶긴하지만...

[글쓴 딥부이(211.192)]

다 나중에 대학원가서 도움되지않을까 생각하면서 군대에서 공부중

[익명(58.238)]

배치랑 배치 사이즈랑 뭐가 다른거임?

[익명(rechido)]

sgd라면 열개로 쪼갠걸 평균가중치 내는게 아니고 그냥 열번 업데이트시킴 - dc App

[딥부이 1(165.194)]

bchw는 파이토치 방식인데 데이터셋 통째로 dataloader에 때려넣으면 알아서 배치사이즈에 맞게 개수 나눠주니까 배치개수는 신경쓸 필요가 없다. 즉 bchw에서 b는 배치사이즈에 해당

[글쓴 딥부이(211.192)]

아 sgd가 평균가중치를 내는게 아니라 그냥 배치를 n등분해서 업데이트 회수를 늘리는거임?

[글쓴 딥부이(211.192)]

블로그같은데 나와있는글 함부로 수용하면 안되겠네 여러개 찾아봤는데 반절이 가중치나 손실값에 평균을 낸다길래 n개의 배치를 전부 구한뒤에 평균내는줄

[익명(rechido)]

손실값을 평균내는건 한 미니배치 안에서 - dc App