https://ratsgo.github.io/deep learning/2017/04/05/CNNbackprop/
제가 구현한게 포워드 부분은 완성이거든요. 필터로 컨볼루션 레이어 훑어서 연산해주고 하는 부분이요
그리고 Max Pooling 사용하고 있는데 이 자료에서 보면 역전파 시에 포워드 때 썼던 필터 대신
필터의 그래디언트를 구해서 그걸로 다시 컨볼루션 레이어를 훑어주는건가요?
https://ratsgo.github.io/deep learning/2017/04/05/CNNbackprop/
제가 구현한게 포워드 부분은 완성이거든요. 필터로 컨볼루션 레이어 훑어서 연산해주고 하는 부분이요
그리고 Max Pooling 사용하고 있는데 이 자료에서 보면 역전파 시에 포워드 때 썼던 필터 대신
필터의 그래디언트를 구해서 그걸로 다시 컨볼루션 레이어를 훑어주는건가요?
w1 의 그래디언트는 흘러들어온 그래디언트 d11에 로컬그래디언트(x11)를 곱해 계산합니다. <== 여기서 w 가 필터의 그래디언트!
마지막 그림 2개 보면 필터 반전시켜서 슬라이딩시킴 이렇게하면 나중에 패딩 붙일 때도 쉽게 계산할 수 있어서 그런거 아닐까
아아 답변 감사합니다
로컬그래디언트는 컨볼루션레이어의 위치에 있는 요소들 같고
흘러들어온 그래디언트 라는것 때문에 머리가아픔요;;