그냥 전에 수갤 개념글 간 거 보고 들어만 본거에요. 제가 공부를 해서 그런게 아니라요 ㅋㅋㅋㅋ - dc App
Windforces(k920048)2018-11-19 22:35
뭔논문임?
익명(116.127)2018-11-20 01:32
아 뉴럴 네트워크 하나를 Metric space 상의 점으로 잡고, 그 사이의 metric 을 저 수식을 최소화한 것으로 잡는 거에요. - dc App
Windforces(k920048)2018-11-20 01:49
저렇게 함으로써 metric space 가 하나가 생기고, 그 위에서 뉴럴 네트워크의 accuracy 를 image 로 하는 함수를 Gaussian Process 를 통해 근사해내는 것이 핵심 아이디어인 논문입니다 - dc App
Windforces(k920048)2018-11-20 01:50
다만 논문에서 제시한 커널이 진짜 positive definite kernel 인지는 논문에서도 증명을 못했어요. 그래서 RKHS 인지는 확실하지 않습니다 - dc App
Windforces(k920048)2018-11-20 01:51
요즘 저런게 머신러닝에서 많이 나오나보네
근데 accuracy는 뭐로 측정함? F1 measure 그런건가
익명(116.127)2018-11-20 01:58
l^2 loss 로 재긴 하는데 보통 뉴럴 네트워크가 task 가 여러개(예를 들어 이미지 안에서 여러 물체를 추적하는 경우 각 물체에 대한 추적 정확도는 여러개가 되겠지요)인 경우에는 multitask learning theory 를 씁니다 - dc App
Windforces(k920048)2018-11-20 02:01
그 외로 KL Divergence 같은 것들도 활용이 됩니당 - dc App
Windforces(k920048)2018-11-20 02:03
저런 논문은 iclm 이런데서 나오는거임?
익명(116.127)2018-11-20 02:16
근데 KL괴리도는 분포 간 거리인데 어떻게 모델의 정확도를 측정함?
익명(116.127)2018-11-20 02:17
답글
어젯밤에 잠들어서 미처 답을 못했네요. 음... loss term 에 importance sampling 같은 distribution 간의 거리가 중요한 term 이 있다면 추가적으로 regularization term 으로 들어가기도 합니다. 그런데 어젯밤에 정확도를 물어보셨는데 제가 완전 동문서답했네요 ㅋㅋㅋ 모델 accuracy 는 n-fold cross validation error 를 주로 사용합니다.
님 제발 수학좀 제대로공부하셈 제발...
여기저기서 겉핥기로들은걸로 아는척하지말고 ㅠㅠ
그냥 전에 수갤 개념글 간 거 보고 들어만 본거에요. 제가 공부를 해서 그런게 아니라요 ㅋㅋㅋㅋ - dc App
뭔논문임?
아 뉴럴 네트워크 하나를 Metric space 상의 점으로 잡고, 그 사이의 metric 을 저 수식을 최소화한 것으로 잡는 거에요. - dc App
저렇게 함으로써 metric space 가 하나가 생기고, 그 위에서 뉴럴 네트워크의 accuracy 를 image 로 하는 함수를 Gaussian Process 를 통해 근사해내는 것이 핵심 아이디어인 논문입니다 - dc App
다만 논문에서 제시한 커널이 진짜 positive definite kernel 인지는 논문에서도 증명을 못했어요. 그래서 RKHS 인지는 확실하지 않습니다 - dc App
요즘 저런게 머신러닝에서 많이 나오나보네 근데 accuracy는 뭐로 측정함? F1 measure 그런건가
l^2 loss 로 재긴 하는데 보통 뉴럴 네트워크가 task 가 여러개(예를 들어 이미지 안에서 여러 물체를 추적하는 경우 각 물체에 대한 추적 정확도는 여러개가 되겠지요)인 경우에는 multitask learning theory 를 씁니다 - dc App
그 외로 KL Divergence 같은 것들도 활용이 됩니당 - dc App
저런 논문은 iclm 이런데서 나오는거임?
근데 KL괴리도는 분포 간 거리인데 어떻게 모델의 정확도를 측정함?
어젯밤에 잠들어서 미처 답을 못했네요. 음... loss term 에 importance sampling 같은 distribution 간의 거리가 중요한 term 이 있다면 추가적으로 regularization term 으로 들어가기도 합니다. 그런데 어젯밤에 정확도를 물어보셨는데 제가 완전 동문서답했네요 ㅋㅋㅋ 모델 accuracy 는 n-fold cross validation error 를 주로 사용합니다.
MultiTask Learning 에 대해 궁금하시다면
http://videolectures.net/roks2013_pontil_learning/,
http://videolectures.net/bark08_williams_mtlwgp/,
http://videolectures.net/nipsworkshops09_kernels/
이 8 강의를 들어보시는 걸 추천드려요. 저도 이 강의 듣고 있어요