선형회귀 질문했었는데 증명하는것좀 도와줘라!

[ㅇㅁㅇ(1.233)]

노트에 간단히 (1,2) (5,7) (8,11) 이렇게 3점 찍어놓고 제일 맞는 직선이 무엇인가 직접 구해보고있는데

y = ax + b로 놓았을 때 오차값이 (a+b-2)^2 + (5a+b-7)^2 + (8a+b-11)^2   이거맞지?

맞다고 치고 계산해보니까 90a^2 + 28ab + 3b^2 -250a -40b + 174 이렇게 나왔는데 이 다음에 뭐해야되냐? 

a랑 b에 대해 각각 편미분해야되는거냐 아님 뭐 어케하는겨

[히히(123.215)]

니가 쓴 걸 E라고 할 때, a <= a - 0.1 * dE/da ㄱ

[ㅇㅁㅇ(1.233)]

< 이거머임

[히히(123.215)]

아 맞다 참고로 뭔가 심하게 너 잘못가고 있는거 같은데, J(a) = 1/2(ax+b - y')^2, dJ(a)/da = (ax+b-y')*a

[히히(123.215)]

a = a - 0.1 * dJ(a)/da

[히히(123.215)]

만약 세 개의 데이터를 업데이트 하고 싶으면 J(a) = 1/3 * 1/2(sig(ax + b - y')^2) 하시고요

[히히(123.215)]

그리고 왜 a를 미지수로 두는지 모르겠지만, 초보면 a 그냥 아무값으로 초기화 시켜라. xavier init 이런것도 많잖아

[ㅇㅁㅇ(1.233)]

근데 님 머하는사람임? 직장에서 어느쪽 일함?

[조선니체(jinseob2kim)]

각각 편미분한 값이 0이다. 연립방정식풀면됨

[조선니체(jinseob2kim)]

히히가 말하는건 근사값 구하는거고

[히히(123.215)]

선형회귀는 근사값으로 가는거잖아 애초에 approximation algorithm 아녀

[조선니체(jinseob2kim)]

기본 선형회귀는 정확한 해 구할수 있는데? 로지스틱회귀는 근사값으로 해야됨

[조선니체(jinseob2kim)]

https://stats.stackexchange.com/questions/46151/how-to-derive-the-least-square-estimator-for-multiple-linear-regression
유도식이다

[ㅇㅁㅇ(1.233)]

난 초보라 뭔소린지 모르겠는데 니체가 준 답변이 내가 원하던거긴함

[ㅇㅁㅇ(1.233)]

90a제곱 + 어쩌고저쩌고 저식을 각각 a와 b에 대해 편미분하고 연립방정식 하란거맞지?

[조선니체(jinseob2kim)]

맞다

[ㅇㅁㅇ(1.233)]

님은 직장인임?

[조선니체(jinseob2kim)]

R로 프리뛴지 1년 좀 넘었다.

[ㅇㅁㅇ(1.233)]

데이터사이언스 프리임?ㄷ

[ㅇㅁㅇ(1.233)]

궁금해서 그러는데 요즘 다 딥러닝으로 돌린다는데 머신러닝 기초에서 배우는 선형회귀부터 k means svm randomforest 등등 많이쓰임?

[조선니체(jinseob2kim)]

ㅇㅇ. R 이용해서 웹 만들어줌.

[조선니체(jinseob2kim)]

당근 기초 머신러닝이 훨씬 많이 쓰임. 일단 딥러닝은 해석이 졸라 어렵잖아. 랜덤포레스트만 되도 해석 할만함