fashion MNIST 로 테스트도 돌려보고 모델 설정도 이리저리 바꿔봤음.
머신러닝의 원리는 대강 이해가 되었는데
그럼 각 Layer에 대해 relu 함수를 사용할지 cosine 함수를 사용할지는 학문적 기반이 딱히 없고 그냥 되는대로 넣어보는거냐?
되는대로 돌려보고 그중에 가장 잘되는거 찾아낸다음 "왜 잘되지?" 이러면서 역으로 이유 찾아보고 그런거임?
예를 들면 '과적합을 줄일 수 있는 방법'을 체계적으로 정리해둔 논문이나 책이 있으면 찾아보고 싶음.
머신러닝을 사용하는 각 경우에 대해 연구된 자료들을 어디서 참고하면 좋을지 모르겠네.
그리고 알파고 같은건 몬테카를로 알고리즘을 썼다고 주워들었는데
단순 머신러닝보다 좀더 고도화된 방법들은 어디서 공부하면 좋을지도 궁금하다.
일일이 대답해주는 것보다 그냥 비숍책이나 굿펠로우책 같은걸 한번 쭉 보는게 더 맞을 것 같다. 몬테 카를로 트리 서치는 강화학습에서 쓰는 기법이니까 Sutton barto 책을 봐라
메모함
머신러닝에서 왜 그런지 이론적으로 증명가능한 건 없음 그런걸 원하는 분야가 아님 - dc App
경험적으로 이 방식이 다른 방식보다 몇%의 정확도나 속도의 이득이 있었다 이런 게 논문의 주된 흐름이니까 다른 분야들과 결이 다르다고 당황하면 안 됨 - dc App
데이터와 목적에 따라 양상이 천차만별로 달라지기 때문에 그런걸 체계적으로 정리한 건 없다고 단언할 수 있고 우리 친구는 머신러닝이 아니라 중 딥러닝을 공부한거야 . 딥러닝은 단순 몬테칼로가 아니라 reinforce learning. 내가 봤을때 너는 고도화된 방법이 아니라 기초를 먼저 다져야하는 수준으로 보임