loss function의 변수은 weight랑 bias인데 에러를 최소화 하는 값을 찾으려면 기울기가 0으로 근접하게하는 변수를 찾아야되는데, 퍼셉트론이 wx+b니까 그 변수은 w고, 이 w를 경사하강법으로 에러가 최소가 되게 업데이트 해야한다 라고 이해했는데 맞나요?
그럼 순전파->역전파+경사하강법으로 w업데이트 가 한사이클임?
- dc official App
댓글 4
미지수 x_i (w,b 원소 중 하나) 로 loss function을 편미분 한걸 x_i 에 업데이트 하는게 한 사이클
익명(125.191)2024-07-01 17:50
원인과 결과를 거슬러가면 됨
경사 하강법을 할려면 경사가 필요하고
경사를 구하려면 오차(loss)가 필요함
로스(y-(wx+b))를 구하려면 wx+b(피드 포워드) 가 필요함 - dc App
익명(175.223)2024-07-01 17:59
로스는 y에 대한 함수고, y는 activation function output o의 함수고, o는 w, b에 대한 함수고... 결국 가중치에 따른 로스 변화량을 보려면 w로 L(A(F(w, b))) 합성함수를 미분하는 것과 같음. 이 과정에서 편미분이 필요한거고.
미지수 x_i (w,b 원소 중 하나) 로 loss function을 편미분 한걸 x_i 에 업데이트 하는게 한 사이클
원인과 결과를 거슬러가면 됨 경사 하강법을 할려면 경사가 필요하고 경사를 구하려면 오차(loss)가 필요함 로스(y-(wx+b))를 구하려면 wx+b(피드 포워드) 가 필요함 - dc App
로스는 y에 대한 함수고, y는 activation function output o의 함수고, o는 w, b에 대한 함수고... 결국 가중치에 따른 로스 변화량을 보려면 w로 L(A(F(w, b))) 합성함수를 미분하는 것과 같음. 이 과정에서 편미분이 필요한거고.
함수고 -> 함수의 결과고