개설일이 4일 전?!
혹시 설명해주실 수 있으신가요 누구
loss function에 상수를 곱하면 그게 효용이 있는 건가요? 역전파 할 때 어차피 상수 텀이 사라지는 게 아닌지..
그런데 이를테면 alpha * MSELoss 에서 alpha가 0이 되면 로스 자체가 0이 되는 건데 그럼 또 상관이 있잖아요
제 지능이 후달려서 여쭈어봅니다 ㅠㅠ
개설일이 4일 전?!
혹시 설명해주실 수 있으신가요 누구
loss function에 상수를 곱하면 그게 효용이 있는 건가요? 역전파 할 때 어차피 상수 텀이 사라지는 게 아닌지..
그런데 이를테면 alpha * MSELoss 에서 alpha가 0이 되면 로스 자체가 0이 되는 건데 그럼 또 상관이 있잖아요
제 지능이 후달려서 여쭈어봅니다 ㅠㅠ
이러면 gradient가 커지니까 lr 조절하는거랑 비슷하지않을까 케라스에서도 상수*loss하는거랑 c를 lr나누는거랑똑같다고 나와잇음 - dc App
상수를 곱하니까 상수텀같은건 없잖아. 상수를 곱하는건 gradient를 변화시킬수있음 특히 여러 loss를 섞어서 쓸때 두 loss의 영향력을 조절할때 상수항 곱하는경우가 많음.
lambda값으로 취급해서 상수로 로스 강약 조절해준다고 이해하면 쉬움