딥러닝 뉴비임 ㅈㅅ..
딥러닝 처음 배울때부터 기본적으로 배우는 xW계산은
RNN이나 LSTM 내부구조, 트랜스포머내부 구조(multi head연산과 feed forward)에도 쓰이는데
결국 xW + 비선형 함수 계산들의 집합체 같은데
이것들의 직관적 역할은 "다양한 차원에서의 특징을 잡아내는 것" 이라고 이해해도 될까?
근데 난 어떻게 저게 다양한 실세계의 특징을 잘 잡아낼수있는건지 직관적으로 와닿지가않음...
그냥 xW계산이 "중요한 특징은 더 강조하고, 불필요한 특징은 버리는" 연산이기 때문에 그런 걸까?
- dc official App
직관적으로 받아들이지말고 수식으로 받아들여라
너 특갤에서 몇번본거같은데 이런것도 모르고 그렇게 다 아는척 댓글 달고 다녔던거?
?? 그런적 없는데 글고 이거 통피임 - dc App
ㄴ 아 통피엿네 ㅈㅅ 답변해주자면 w자체가 페턴임. 그리고 학습을 시켜보면 페턴이 "있다면" W에 새겨지는거임. 그리고 당연히 페턴은 있을 수 밖에 없잖아 랜덤데이터가 아니라면? 그리고 층을 깊게 할수록 W하나가지고는 못잡았을 페턴들이 잡히는거임
답변 고마워 근데 사실 패턴이 새겨지는건 알겠는데 어떤 원리로 패턴이 새겨지는지 이게 아직 잘 이해는안됨..ㅠㅠ 왜 패턴이 새겨질 수밖에 없는가.. - dc App
딥삣삐1이 말한것처럼 뭔가 수식으로 이거를 이해해보고싶음 - dc App
어떤 현상을 설명하기 위해 관련있어 보이는 몇개의 특징을 input으로 넣는 거잖아? 이 input들이 이 현상과 어떤 인과관계나 상관관계가 있다면 서로 함수로 표현 가능하겠지? 하지만 input이 여러가지이고 서로 선형적인 관계가 아니라면 사람이 찾을수 없기 때문에 이걸 대신해주는게 머신러닝 -> 딥러닝으로 발전한거임
나도 타분야 석사에 발만 걸친 수준이라 좀 엄밀하지 못할수 있음
어려운것부터 말고 mlp xor problem부터 천천히 공부해보삼
통계 좀 봤으면 decoding model 이랑 forward model 키워드로 찾아보면 w가 뭘 의미하는지 감이 좀 올듯