안농
나는 컴공나와서 개발자인데 직업은 개발자가 아니내..ㅎ
딥러닝 파고있는데 내가 지능이 낮아서
뭐라고하는지 잘 모르겠어.
책보니까
행렬 곱에 시그모이드랑 소프트맥스 넣으니까 손글씨 판단하고
시벌 이게 뭔 개 쌉발라먹은 소리인지 난 잘 모르겠다
여하튼 질문간다
- * 질문 : 내가 무식하게 이해하기로는 ‘가중치를 컴퓨터가 노가다해서 구한거를 마치 필터처럼 이용해서 데이터를 처리’ 하는게 딥러닝인거임?
- * 질문 : 시그모이드랑 소프트맥스 이건 그냥 값계산은 시그모이드, 분류를 소프트맥스로 처리하면대?
- * 질문 : 은닉층 내부의 뉴런 개수 내가 ㅈ대로 효율적인 방향으로 개수를 정해서 만들면댐? 뉴런개수를 한 몇천개 만들어도 되는거? 단지 많으면 처리가 느린 그런건가?
- * 질문 : 은닉 층 수도 내가 ㅈ대로 효율적인 방향으로 개수 정해서 해두댐? 막 10층 100층 석가탑 만들어서 학습시켜도 되는겨? 얘도 많으면 느린 그런건가?
- * 질문 : 아 딥러닝 커뮤니티 없냐 답답한게 한두개가 아닌데 튜터가 필요하다
- * 질문 : 막 어쩔때는 시그모이드를 쓰고 어쩔때는 소프트맥스로 쓰는데 이것도 있으면 효율이 좋은거고 없으면 효율이 나빠서 학습이 둔해지는건가? 잘 하려면 조합을 잘짜야하는건가? 시벌 내가 뭔 개소리하는지도 모르겠내
도와조
질문 1 대충 맞는말이니 그렇게 이해하길, 질문2 시그모이드를 리그레션아닌 클래시피케이션에 쓰기도 하나 (GAN discriminator처럼 0~1 확률 뱉는 형태로) 그냥 쉽게 생각하면 그렇긴하지, 질문3-4 파이토치나 케라스로 fnn같은걸로 해보면 알겠지만, 니멋대로 레이어 구성하면 어느새 임계점 와있음. 다다익선이 아님. regualrization이 괜히 있는게 아니고, 딥러닝 논문들에 우리는 네트워크 구성 레이어 몇개쌓았고 시시콜콜 이리이리 했다고 있는게 괜히 있는게 아님. 질문5 스택오버플로우같은 해외사이트 가보길, 내가 첨 딥러닝 배울때 6-7년전이라 국내에 자료가 없어서 막막했는데 해외애들이 댓글도 아주 tmi 친절히 달아줌.
해당 댓글은 삭제되었습니다.
질문6은 질문이 좀 이상한데 시그모이드에 대한 이해가 더 필요한듯. 시그모이드의 단점이 뭔지 묻는 질문이라면 시그모이드의 미분한 함수 그래프를 생각해보면 됨. 0근처만 볼록하고 클수록 다0되어버리는 새츄레이션 일어나. 그러면 역전파가 잘 안되겠지 MSE loss쓴다고 가정할때. 잘모르겟으면 대충 분류과제는 그냥 소프트맥스로 activate 하고 cross entropy loss 씀 이렇게 이해를 해. 내가 볼때 너는 분류랑 회귀를 좀 헷갈리는듯, 아예 그런 개념이 없거나. 그럴경우에 뉴럴넷부터 공부하려고 들지말고 선형회귀분석이랑 로지스틱회귀 이런거 부터 공부해라. 어차피 뉴럴넷으로 분류하고 회귀하고 하는게 저 두개 모델로 부터 아이디어가 나온거라