머신러닝에서 쓰이는 인공신경망
(ANN등..)이랑 PCA(주성분분석)이랑 결국은
모델 자체가 블랙박스화 되고 설명력을 직관적으로 알아낼 수 없다는 점에서는 일맥상통해?
검색해보니 아래와 같이 답이 있어서...
Both Principal Component Analysis(PCA) and Artificial Neural Networks (ANNs) can be considered black boxes in the sense that it can be difficult to understand how the model arrived at its outputs and to interpret the individual components or neurons that contribute to the final result.
In the case of PCA, the transformed data can be difficult to interpret, as the principal components are linear combinations of the original variables and may not have a clear meaning in the original context.
In the case of ANNs, the large number of neurons and connections in the network can make it challenging to understand how the individual neurons contribute to the final output. Additionally, the non-linear transformations performed by the neurons in the network can make it difficult to interpret the relationship between the inputs and outputs of the model.
There have been efforts to develop methods to increase the interpretability and transparency of both PCA and ANNs, but these methods are still an active area of research and may not be applicable in all cases. In some cases, it may be necessary to accept the black box nature of these models and rely on other methods, such as model performance on a validation set, to assess their quality and reliability.
개인적으로 왜 black box라는 말을 붙이는지 모르겠음, PCA의 loading이나 NN의 weight나 다 명확한 수식으로 계산되는데... PCA에서의 각각의 PC 혹은 NN에서의 각각의 node에 '도메인 관점에서의' 이름을 붙이기 어려운 건 맞겠지, 그나마 붙일 수 있는 예로 여러 과목들 점수 중 수학 점수랑 물리 점수에 대해 loading이 큰 PC가 있다면 수리지능이라 얘기할 수 있겠지만 대부분의 dataset에서 이렇게 이름붙일 수 있는 (+거기에 남들도 동의해주는) 경우는 거의 없을테니깐.
애시당초 PCA 모델이 자주 사용되는 사회과학 분야에서는 일부 변수 누락으로 인한 오류때문에 발생하는 문제 해결로 모든 변수 다 때력박을 수 있게 만들어진거니까 그런거 아닐까요? 다만 eigenvector 사용해서 다시 모형을 정형화해주는데 파라미터가 변수에 대해서 어떻게 설명할 수 있는 부분이 없어서 그런거 아닐까요?
그리고 NN의 경우에는 요즘 핫한 GPT만 보더라도 2억개 파라미터 분석하고 하니 정확히 어떤 부분이 어떻게 연결되었는지 이야기하기 굉장히 난해하니 블랙박스나 나름 없는 것 아닐까요? 들여다 볼 수는 있지만, 봐도 의미가 없는... 마치 뉴런과 시냅스를 하나하나 뜯어도 전체 생각 구조를 모르는 것과 같지 않을까요?
저도 너무 궁금해서 질문달았는데 훌륭한 답변 감사해요 ^^