위키를 찾아서 읽어 보라능.
이건 뭐랄까 raw data를 이용해서 효율적으로 하이레벨 개념의 feature를 만들어 내는 그런 것?
예를들자면 데이터 소스에 서너개의 타임스탬프가 있어 그걸 백날 nn에 먹여줘야 아무 의미있는 일은 안생기지.
만일 미니 언어가 있어서 그런 저급 데이터에서 날짜, 요일, 월, 일 등의 feature를 정의할 수 있고, 그걸 nn 파이프라인에 연결해서 먹여주면 그제서야 흥미로운 일들이 일어나는 거지
사실 난 nn은 대부분 오버킬 이라고 보기 때문에 큰 관심은 없고, 이 문제는 nn이든 아닌든 존재하는지라
이건 뭐랄까 raw data를 이용해서 효율적으로 하이레벨 개념의 feature를 만들어 내는 그런 것?
예를들자면 데이터 소스에 서너개의 타임스탬프가 있어 그걸 백날 nn에 먹여줘야 아무 의미있는 일은 안생기지.
만일 미니 언어가 있어서 그런 저급 데이터에서 날짜, 요일, 월, 일 등의 feature를 정의할 수 있고, 그걸 nn 파이프라인에 연결해서 먹여주면 그제서야 흥미로운 일들이 일어나는 거지
사실 난 nn은 대부분 오버킬 이라고 보기 때문에 큰 관심은 없고, 이 문제는 nn이든 아닌든 존재하는지라
아 근데 힌튼교순가가 한다고 해서 코세라 nn 등록은 함 ㅎㅎ
nn에 그냥 먹여도 어느 정도 학습은 함
타임스탬프 값을 그대로 string으로 RNN 써서 먹여도 학습이 될거예여.. embedding layer도 있고 중간에 hidden layer들도 있고 해서
얌마 좌표 찍어봐라. 형은 의심병이 있어서 ㅎㅎ 어디 타임스탬프 에서 뭘 배울수 있는지 아라보자
일마는 한술 더뜨네... 얌마 니가 피쳐중에 사람 이름을 넣었어, ㅅㅂ nn이 거기서 뭘 배워? 작명법? ㅋㅋㅋ
ㅇㅇ;
딥러닝을 이용한 지도학습의 기본이 embedding에 대한 학습이에여
https://lh3.googleusercontent.com/-2EOuB2hL-w7rctwo-bPZKfm_r6_QmHxYM3KvhKx9Oq4=w969-h400-no
이게 고전적인 기계학습이고
http://image.slidesharecdn.com/deeplearningforvisualrecognition-150227033156-conversion-gate02/95/deep-learning-for-visual-recognition-17-638.jpg?cb=1426579842
이게 딥러닝의 일반적 아키텍처
여러 층으로 쌓은 hidden layer끼리 곱, 합, nonlinear transformation을 거치면서 어느 정도 universal한 함수에 대한 approximator가 된다는 것
아무런 사전정보 없이 텍스트만 넣어서 주변 context 예측하게 한게 word2vec이고 단어 사이의 analogy를 잘 나타내고 있쑴..
http://deeplearning4j.org/img/countries_capitals.png
ㅋㅋ 일마 이거 완전 무개념이네. 얌마 형이 새로 글싸준다.
딥러닝이 고전적 기계학습이랑 가장 다른 점이 feature extraction 과정을 최소화하는 거라니깐여
가장 유명한 CNN을 이용한 image classification 같은 경우에는 옛날에는 SIFT, HOG 같은 preprocessing을 꼭 해줬어야 CRF나 structural SVM으로 잘 됐었는데 그냥 픽셀 정보 (RGB)만 넣어서 CNN 레이어 많이 쌓아서 하니까 잘됐다는거...
아 ㅇㅇ흉말이 다 맞음.