그럼 컨볼루션 레이어의 역할은

[익명(175.223)]

이전 레이어가 x y z 이고

커널 크기가 a b 일 때

a×b 크기만큼의 공간에 대해 컨볼루션 해서 얻은 값을

z개만큼 가중치로 쓰겠다는 얘기임?

- dc official App

[익명(223.62)]

넴

[익명(175.223)]

근데 진짜 이걸 모르겠는데 그럼 필터갯수마다 다른 필터정보를 학습하게 된다는건데 - dc App

[익명(175.223)]

그 기준은 누가정해요? 컴퓨터느님이 정하는거임? - dc App

[익명(223.62)]

이아닌데

[익명(175.223)]

헉 - dc App

[익명(223.62)]

컨볼루션 레이어의 깊이를 말하는거임(모델 전체관점에서) 아니면 하나의 층에 채널수를 말하는거임?

[익명(175.223)]

하나 층에 채널수요 - dc App

[익명(175.223)]

지금 한 컨볼루션 레이어에서 다음 컨볼루션 레이어로 넘어가는 거에 대해서 이해중.. - dc App

[익명(223.62)]

한층에 필터수면 쉽게 생각하면 그냥 어떤 입력에 대한 피처를 뽑아줄 필터갯수를 임의로 정한다 라고 생각하면되여

[익명(223.62)]

기준을 누가정한다 어떻게 정한다 라는건 아직까진(?) 영원히(?) 정론이 없죠 단지 이미지같은거면 시각화를 해서 튜닝과정에서 줄이거나 하구요

[ㅇㅇㅇ(121.144)]

그 기준은 랜덤이지. 애초에 일반 기초신경망도 운빨에 따라서 학습되고 말고가 결정되잖아. 그냥 그런 문제야. 그래서 초기값에 신경쓰는거고 배치정규화도 하는거고 드롭아웃을 하는거지.

[익명(175.223)]

아 그럼 내가 필터수 100개 해도 그중 10개정도는 무의미하게 학습되고 있을수도 있는거네여 - dc App

[ㅇㅇㅇ(121.144)]

그냥 딱 기초신경망의 weights를 2차원으로 펼쳤다고 생각하면 된다.

[익명(223.62)]

넴 100개를 해서 다 유의미하게 쓰일거다 라는건 그냥 바람일뿐이죠 한창 딥딥딥 하면서 줄기차게 깊게만파다가 별말없어진거도 이게 실제로 유의미하게 쓰이는게 맞나? 라고 필터같은걸 역으로 올라가면서 뜯어보니 아무쓰잘떄기없는것들이 상당히 많더라 하는 결과도 근래 많았던거로 기억해여

[익명(175.223)]

오 이해했습니다.. 이제 이해한거로 CNN을 만들어서 Bottleneck Attention Model이란것을 중간에 추가해야 하는데.. 공부하다 막히면 또 여쭤보겠습니다 포.. - dc App

[ㅇㅇㅇ(121.144)]

기초신경망에서도 신경쓰는게 weights 초기값을 똑같게 만들지 말라는거잖아. 그게 무슨 원리냐면 그냥 AND OR XOR을 설명할때 xy평면에서 직선 하나로 분리되느냐 마느냐를 보여주지? XOR은 직선 하나로 안되기 때문에 2개를 쓰거나 비선형인 곡선을 써야됨. 직선 2개를 쓴다고 가정했을때, 그 직선의 초기 위치와 기울기가 완전히 똑같다면 역전파 업데이트할때 과연 XOR 분류까지 학습이 될까? 2개의 직선이 조금이라도 비틀려 있어야하고 거리가 있어야 제대로 학습이 됨. 그것과 마찬가지로 CNN에서도 초기값을 어떻게 줬느냐에 따라 "필터"로서의 위치가 잡히는거임. 똑같거나 거의 비슷한 초기값이면 학습안되고 노는게 생기겠지.

[익명(175.223)]

헐 그럼 그 가중치 분포는 그냥 랜덤이나 경험으로 조절 하는건가요? - dc App

[익명(223.62)]

초기값만요

[ㅇㅇㅇ(121.144)]

"랜덤을 만드는 방법"에 대한 경험이지. Xavier 이런거 있잖아. 어찌됐건 걍 초기값에 따라 "저절로 필터가 생기는 것"이 CNN의 중요한 핵심임.

[익명(175.223)]

방향은 좀 이해한듯 ㄷㄷㄷ - dc App

[익명(223.62)]

이게 이런식의 필터란게 이미지에서보면 특정 효과를 바라는 필터계수란게 이미 정해져있었어요/ 특정값을 가진 필터를 이미지에 컨볼루션하면 샤프해진다던가 블러효과가 생긴다거나 그걸 정해놓지말고 학습을 통해 해당 이미지의 특징을 잘 잡아낼수있는 계수를 만들게 학습하는거져

[ㅇㅇㅇ(121.144)]

드롭아웃이 효과가 좋은 이유가 초기값을 아무리 잘 잡아도, 아니 애초에 걍 랜덤이기 때문에 잘못 잡힐 가능성이 있는데, 드롭아웃을 쓰게 되면 그 잘못해서 값이 겹친 초기값에 대해서 어느 한놈만 업데이트 시켜줘서 변별력을 만들어줌. 아예 극단적으로 모든 초기값을 0으로 줬다고 쳐도 드롭아웃으로 랜덤으로 업데이트하기 때문에 드롭아웃이 효과가 생기는거임. 직선 2개가 아니라 10개를 겹쳐놨어도 한놈씩만 랜덤으로 다른 값을 적용해주면 알아서 흩어질거 아냐. 그런식인거임. 근데 얘기하다보니 주제가 좀 벗어나네. 어쨌든 필터의 채널수는 그냥 적당히 테스트와 경험으로 정하는거고 필터는 자동으로 생기는거임.

[익명(175.223)]

굿.. 완벽함.. 이제 풀링 레이어를 공부할것임.. - dc App

[해당 댓글은 삭제되었습니다.]

해당 댓글은 삭제되었습니다.

[익명(175.223)]

이미지가 안뜨든데 - dc App

[익명(175.223)]

폰으로쿄봄 잠시 - dc App

[익명(175.223)]

아 밑에 움짤이있네 - dc App