최소제곱법의 구라를 알아보자


회귀분석에는 최소제곱법을 이용한다.

최소제곱법이란 거리제곱이 최소가 되는 공통의 직선을 구하는 방법이다.

그림으로 시각화하면 다음과 같다.




a0473cac3232b4618f33327558d62d3b6fbc194d073a54d400be39




그런데 뭔가 이상하다.

회귀직선에 최소가 되는 직선은 명백히 회귀직선에 직각으로 세운 선 밖에는 없다.

그런데 x에 직각인 세로선이 최소라고 우긴다.

눈에 뻔히 보이는데도 구라를 치고 있다.

직선에 가장 가까운 선은 아래처럼 직각이다.


a17e0caa0103b3708af1d1bc10f11a39b089561a7c88c9d7



이 최소제곱법 구라는 수잘알들이 전인류를 상대로 친 대인류 사기극이다.

가우스는 잘못이 없다. 개념을 창안했기 때문에.

후세 사람들이 잘못한 것이다. 잘못된 것을 알면서도 고치지 않았기 때문이다.

고치지 않는 것은 본인들도 이해를 못 하면서; 학위 좀 땄다고; 돈 꼬라 박았다고; 가우스 권위에 기대서 세상을 속이는 행동이다.


결론은 주성분을 이용한 회귀분석 기법도 개발해야 한다는 것이다.

물론, 주성분에 y 개념은 없다.

그래도 없으면 만들면 된다.