[일반] 목표함수말고 목표함수의 도함수를 근사하면 안됨?

[익명(106.101)]

목표함수의 도함수를 근사시킨 뒤 적분하면 오차가 더 줄어들거같은데

목표함수가 x < 0에서 0, x > 0에서 1/2*x^2이면

도함수는 ReLU인거니까 ReLU에 근사시킨 다음에 적분하면

존나 매끄러운 목표함수가 나옴.

물론 적분상수는 따로 방법을 생각해봐야겠지만

[익명(124.197)]

뭐라는 건지 모르겠는데 목표 함수가 뭐임

[딥삣삐 1(118.235)]

그게 되면 그냥 뉴턴법으로 구해버리면 되지 왜 경사하강같은 병신같은 방법을 하겠노 - dc App

[딥삣삐 2(112.221)]

목표함수는 뭐고 relu가 왜 도함수죠?

[약팔이아님(vital7966)]

fisher matrix 검색

[익명(211.234)]

목표함수의 도함수가 뭔지 어케아는데 ㅋㅋ;

[딥삣삐 3(165.194)]

목표함수를 근사한다는 게 뭐지... 목표함수의 최소값을 찾는게 딥러닝 아님?\

[딥삣삐 3(165.194)]

반대로 말했는데 목표함수를 최대화하는거지. 그런데 목표함수의 도함수의 최대값은 목표함수와 같은 지점이 아닐테니 이미 전혀 다른 문제를 풀고 있는 거고

[딥삣삐 4(58.142)]

fisher divergence

[익명(180.20)]

미분 가능하긴 함?

[딥삣삐 5(211.36)]

딥러닝에선 적분안쓰는데 뭔 솔. 걍 다 더하지

[익명(with5401)]

self adjoint method 검색 - dc App

[빤두(note7072)]

objective=목적함수=손실함수. loss function의 도함수를 찾으면 학습이 끝난거지 뭘 더 할 필요가 없음