[일반] 수정결정계수가 뭔지 잘 모르겠음...

[익명(221.149)]

일단 찾아본 걸로는 별로 유의미하지 않은 독립변수에 의한 영향을 최소화시키기 위해서 산출되는거다 정도인데

이게 혹시 변수를 하나 추가했을때 결정계수는 올라가는 동시에 수정결정계수는 전보다 더 떨어질수도 있음?

그러면 독립변수가 몇 개일 때부터 수정결정계수를 사용해야 함? 지금 변수 3개로 다중회귀 돌렸는데 결정계수 0.2 수정결정계수 0.15인데 어떤걸 결정계수로 제시해야 할지 모르겠음

[익명(210.221)]

실제 수정된 결정계수을 보면 adj.R = 1 - [(n-1)/(n-p)] * (1-R^2) → p 올라가면 깎이게 해놨다 (n이 표본수, p가 독립변수 수, R을 결정계수라할때. ) 질문에 대한답은 1) 변수 늘려도 R이 증가하지만, adj R은 떨어질수도 있음 ( n이 100정도일때 r이 0.4~0.5 전후로 나온다면, p 몇개 더 추가해도 adj R 안오름) 2) 독립변수가 몇 개일 때부터 수정결정계수를 사용해야 함? → 그런 기준은 없다. 보통 변수 끼리 영향있는지 검토하는게 빡세게 들어가기 때문에, 대부분 이 과정거치면서 변수 몇개 설정해야하는지 설계가 됨. 변수 많이 넣어놓고 '자 변수가 많이 들어갔으니까, 변수 갯수가 페널티로도 되는 adj R를 주로 해석했다' 이러는게 썩 좋진 않음

[익명(210.221)]

때문에 "지금 변수 3개로 분석했다" 라는 부분에서. 변수끼리 충분히 공선성 없는지 해결하고 그냥 R로 해석하는게 나을듯

[익명(221.149)]

와 고맙다 게이야 근데 다중공선성 검증은 변수간 상관분석으로 하면 끝나는거임? 예를들어 종속변수 A, 독립변수B/C/D 이렇게 있으면 B-C,C-D,D-A 한번씩 상관분석하고 상관계수 얼마이상 나오면 얘네 간엔 공선성 있다 이렇게? 만약 그거라면 상관계수 기준은 얼마가 적당함?

[ㅇㅇㅇㅇ(210.221)]

1) "다중공선성 검증은 변수간 상관분석으로 하면 끝나는거임?" → 아님. 상관분석같은 기초적인 방식으로는 부족함 2) 예를들어 종속변수 A, 독립변수B/C/D 이렇게 있으면 B-C,C-D,D-A 한번씩 상관분석하고 상관계수 얼마이상 나오면 얘네 간엔 공선성 있다 이렇게? → 어떤 점수체계에서 특정 Threshold 수준을 넘을때 공선성이 보는 방식이 쉽지? 간단하니까 실제로 VIF 란식을 써서, Threshold 10넘으면 공선성있다고 의심하기도 함 근데 이때 VIF는 어차피 결정계수로 구성되는 식이라, 글쎄.. 좋은 방법은 아니라 생각함 너가 언급한 상관계수활용해서 공선성 해결하려는 시도도 할 수는 있겠지. 독립변수끼리 각각 대조해보고, 좀 상관계수 높아보이는 애를 임의로 뺴서,

[ㅇㅇㅇㅇ(210.221)]

다시 회귀적합해보는거지 이떄 상관계수는 그냥 임의로 threshold를 정하겠지? 0.5든 0.7이든? 근데 추천할만한 방식은 아니다. 딱봐도 주먹구구인것 같지않냐.. 좀 더 스마트한 방식이라고 한다면 (사실 이것도 딴지 걸리지만.. ) 기존 독립변수 B, C , D 끼리 PCA돌려서, 서로 orthogonal 한 B' , C'로 재계산해낸 다음에 새로운 독립변수로 쓰기도 함. 예를들어 농구팀 승률 예측할 때, [2점슛성공률], [3점슛성공률], [자유투성공률] , [리바운드], [스틸횟수] 같은 독립변수가 있다고 한다면. 이걸 [공격력], [수비력] 으로 재해석해서 쓰는거지. 더 궁금한건 Multivariate statistical analysis 과목같은거를 더 파보길 추천한다

[익명(221.149)]

솔직히 통계학쪽이랑 관련없는 삶을 살아와서 pca vif 이런거는 좆도 모르겠는데 상관분석으로 공선성을 확정짓지 못하겠다는건 알겠다 고맙다