공정데이터로 양/불 분류모형 만들고
분류모형에서의 양품확률을 최대화하는 최적화문제 풀어서 최적해 제시하는 상황
데이터 수에 비해 feature 수가 많고 반응이 비선형적인 경우에
데이터가 존재하지 않는 부근에서의 최적해는 실제 현장에 적용했을 때 엉뚱한 결과가 나올 수 있을 것 같은데,
최적해 탐색 시에 데이터 밀도가 낮은 공간에서의 탐색을 억제하는 알려진 방법들이 있나요?
단순 유클리드 거리같은 걸로 계산하면 feature 수가 많을 때 noise로 작용해서 너무 보수적으로 탐색할 것 같고,,
저희 랩에 선배도 없고 제가 이제 막 석사과정 시작해서 관련 연구 찾는 법을 잘 모르는데, 어떻게 하면 잘 찾을 수 있나요..? ㅠ.ㅠ
연구의 시작은 무조건 논문 리서치
ㅠㅠ 관련 주제로 누락되는 연구 없이 꼼꼼히 잘 찾을 수 있는 방법 팁좀... ㅠ.ㅠ
논문 리서치에 팁같은건없음;; 관련ㅈ리뷰페이퍼부터 시작해서 리서치 범위를 narrow하게 가져가는게 답임. 시간이 많이들겠지만, 결국 이것도 피가되고 살이 될거임. 무조건 시간쏟아부어서 리서치하면서 비슷한 주제라도 찾게되면 다행. 괜히 논문백개는 읽어야 자기논문하나는 나온다 라는 말이 있는게 아님
관련분야는 아니지만 그냥 글보고 대충 모델을 제시해보자면.. 1. 데이터수에 비해 feature가 많다(high dimentional) = feature selection, penalized term, dimentional reduction 등을 고려 2. 비선형(nonlinearity) = 모형 가정으로 해결 / 비선형 모델 고려(이건 너무 많음)
3. 관측을 못한 부분의 문제 = 확률가정 고도화 정도로 생각해서 모델링 해보시는게...
반응이 비선형이라는게 무슨소리야? 옵티마이저가 전공은 아닌데 최적해를 만족하는 매개변수는 애시당초 확률적인거잖아 양/불이 hyper plane에서 복잡하게 구분되면 100% 만족하는 매개변수는 존재할수 없음
hyper plane 쪽으로 살펴보고 싶으면 representation learning, manifold, clustering 키워드로 찾아보고 feature selection은 meta heuristic 한 논문들 많이 있음 genetic algorithm부터 시작해서 Simulated Annealing (SA) 두개가 보편적이고 고전적으론 Lasso 써볼수 있겠네 최근엔 gray wolf algorithm 같은것도 나와있음
feature들을 graph화 해서 collaborative filtering같은것도 써볼 수 있을 것 같네 근데 니가 궁금해 하는건 궁극적으로 해결하기 어려운쪽임 억지로 제어해서 rare case에 속하는 instance의 학습량을 낮추면 해당 feature를 갖는 instance를 위한 최적해의 신뢰도가 낮아질 것이고 그냥 학습시킨것이 오히려 더 설명력이 좋을 수 있음