사물 인식에서 역전파를 쓴다고 알고있는데
역전파식으로 안하고
이미지를 받아들이기 시작하는 그 부분부터
구체적으로 이미지를 구별하는 알고리즘같은게 있지 않을까요
왜 그 핵심을 발견안하고 간접적으로 가중치를 접근시켜가며 얻는거죠?
그래서 역전파로 얻은 그 가중치설정을 분석하면
그 이미지를 구별하는 알고리즘을 알아낼수 있는거 아닌가요?
역전파도 중요하지만 역전파로 얻어낸 가중치설정에
실제 사물구별 알고리즘이 녹아있다고 생각합니다
- dc official App
연구해서 논문 써주세요.
그래서 가중치 얻어낸거 그대로 가져다 쓰잖아요
너 역전파 손으로 해 보기는 했냐?
인공지능을 사용하는 근본적인 이유는 우리가 input과 output사이 관계식을 찾기 위함임. 가중치나 편향은 비선형 함수의 형태를 결정하는 일종의 파라미터인거고 우리의 목적은 가중치와 편향에 따라 나타나는 다양한 비선형 함수 중 관계식을 가장 잘 근사화하는 비선형 함수를 찾는것이라고 보면 됨.
즉 우리는 관계식을 가장 잘 근사화하는 비선형 함수를 찾기 위하여 손실함수를 최소로하는 최적 가중치와 편향을 찾아야 되는데 이러한 최적점을 찾는 가장 손쉬운 방법중 하나가 역전파 알고리즘임. 반복적인 미분 절차를 통해 손실함수가 최대/최소인 지점을 찾는거지.
당연히 목적은 어디까지나 손실함수를 최소로 하는 가중치, 편향의 최적값을 찾는게 목적이니까 역전파를 사용하지 않아도 다른 알고리즘으로도 얼마든지 구현은 할수 있음. 단지 최적지점을 찾는데 미분을 사용하지 않는건 비효율적이니까 쓰이지 않는것 뿐이지.
다만 이렇게 효율적인 알고리즘이지만 최근에 이야기가 나오고 있는 부분은 미분이 불가능한 함수들은 역전파가 힘들다는 문제점이 있음. 물론 연구를 하는 사람들은 애초에 미분이 가능하도록 모델과 손실함수를 설계 하지만 필요한 경우도 있긴 하니까 ff 알고리즘 같은게 제안되기도 했는데 이런건 그냥 그런게 있다고만 알아두면 됨.
그런 방법도 있음. neocognitron 같은 방법.
https://gall.dcinside.com/mgallery/board/view/?id=deeplearning&no=1189
forward propagation, coding - dc App
그래서요