차원 축소를 위한 주성분 분석을 할 때, 책에서는 주성분 벡터의 방향은 분산이 큰 방향이라고 설명하고 있습니다.
이에 대한 설명이 검색해봐도 잘 안나와서 제가 나름 이해한 것은 이렇습니다.
각 데이터들을 주성분 벡터에 투영할 때, 손실되는 데이터는 해당 데이터의 원래 위치에서 주성분 벡터에 내린 수선의 길이와 같다고 한다면(이것도 맞는지 잘 모르겠습니다...그냥 제 뇌피셜...)이 수선의 길이가 가장 작으러면 데이터들이 퍼져 있는 방향으로 주성분 벡터의 방향이 결정되어야 할 것이고 이것이 바로 분산이 가장 큰 방향이다.
이게 맞는 건지도 모르겠고 혼자 공부하니까 물어볼 사람도 없어서 힘드네요 ㅠㅠㅠ 뉴비 좀 도와주세요...
해당 댓글은 삭제되었습니다.
오 감사합니다
니 생각이 맞음 2차원에 분포한 데이터를 1차원으로 줄이고 싶은데 데이터의 정보 손실이 가장 적은 축소 방법이 뭔지 생각해보면 각 데이터포인트들로부터 1차원 선까지 최소거리(수선)들의 합을 최소로 만드는 직선을 찾아야 할것임. 그게 결론적으로 데이터 분산이 가장 큰 방향이 되면 수선들의 길이의 총합은 최소가 될 것이고 그러면 정보손실이 제일 적겠지.
즉 2차원 공간에 있던 데이터들을 1차원 상에 전부 projection 시켰을 때 오차가 가장 작은 직선을 찾는거임. 일반적으론 N차원 공간 상의 데이터를 M차원의 부분공간으로 projection시켰을 때 가장 데이터 값의 변화가 적은 공간을 찾는거고
감사합니다!!