[일반] Pca가 회귀분석 같은거임?

[익명(211.226)]

그 전진선택 후진선택 같이

유의미한 변수 뽑아주는거임?

[통갤러 1(67.218)]

PCA를 회귀분석의 변수선택 용도로 사용할 수 있긴 하지만 stepwise 기법이랑 결이 조금 다르지. 일반적으로 변수선택 기법은 y를 잘 설명하는 X1,..,Xn의 조합을 찾아내는 거고 PCA는 X1,...,Xn을 선형결합해서 서로 상관계수가 0인 새로운 변수를 뽑는거니까.

[통갤러 2(73.190)]

PCA (주성분 분석)으로 회귀분석하는 PCA regression도 있긴 한데, 실전에서 쓰이는 것 그다지 본 적없고, 변수선택에는 stepwise 같은 고전적인 방법이나, Penalized Regression 같은게 주로 쓰임. PCA는 차원축소 방법이라고 이해하면 쉬움. p개의 설명변수의 차원을 p보다 훨씬 작은 k개로 축소를 하는데 k개의 주성분 (principal component)들은 p개의 설명변수의 선형결합이고, uncorrelated (correlation=0)임

[통갤러 3(223.39)]

pca가 변수선택이랑 다른 점은 원래 주어진 변수를 해체해서 새로운 변수를 만든다는 점임. 그렇게 새로 구성한 변수를 가지고 충분한 모델 설명력이 확보되는 변수까지만 고려를 하니 차원축소 효과가 나는건데, 주어진 변수를 덜어내는 변수선택법이랑 차이가 많다

[통갤러 3(223.39)]

곰곰이 생각해보니 해체라는 말은 직관적으로 이해하긴 편한데 정확하진 않은거같다. 주어진 변수의 선형 결합으로 새로운 변수를 재정의?도 살짝 안맞고 재설정 한다는 말이 좋을듯

[익명(223.38)]

좋은 설명들 고마워!