[일반] ml 이론랩실이면 어디과쪽에있는거임?

[ㄴㄴ(115.88)]

수학과에 몇분있는거같은데 거의없는거같고
타과에도 이론쪽으로하는분들있음?

[익명(211.114)]

보통은 컴공(+AI대학원). 전전도 찾아보면 있기는 할듯

[ㄴㄴ(115.88)]

근데 이론랩실이면 수학같은거는 자기네들이 알아서 공부해서 쓰는건가 아니면 컴공이나 전전에서 배우는내용으로 이론을 전개해가는건가

[익명(211.114)]

내가 아는 기준으로 말하면 ML "이론" 랩이라고해도 수학과에서 배우는 수학에 비하면 수학이 적게 쓰이긴함. 이제껏 내가 공부하면서 필요했던 수학만 따져보면, Nonlinear programming(Optimization), Probability(measure theoretic), real analysis, functional analysis 정도. 당연히 공대 애들도 배우는 linear algebra, discrete mathematics는 필수겠지? 그외로 topology랑 differential geometry도 알아두면 좋긴함. 하지만 여기는 내가 연구하는 분야는 아니고

[익명(211.114)]

그외로 알면 좋은(또는 분야에 따라 필수적인 거는) Stochastic Process, Stochastic Differential Equation(SDE), Information Theory, Bayesian Inference 정도. 또 더있나 지금은 생각은 안나네 근데 이런 과목들이 필요하다고해서 텍스트북에 있는 내용 전부를 쓰는것은 아님. 이론물리학도 연구를 하기위해서 수학과 과목 전부를 처음부터 끝까지 들을 필요는 없잖아? 걔들은 이론물리학 책으로 필요한 수학만 쏙쏙 뽑아서 공부하지(예를들어서, Arfken). 여기도 마찬가지로 연구하다가 필요한 수학은 그떄그때 찾아서 공부하면됨. 대신 수학과목은 나는 많이 들을수록 좋다고 생각함. 그게 결국 차별점이 되는거라서

[익명(211.114)]

당연히 statistical learning theory는 필수적으로 공부해야함. 조금만 구글링해보면 흔하게 추천되는 책이 Murphy랑 Bishop인데, 나는 The Elements of Statistical Learning(ESL)로 공부하는중

[익명(222.107)]

보통 ML이론이라 부르는 statistical learning theory (혹은 computational learning theory)를 공부하려면 PRML, ESL보단 Vapnik, Statistical Learning Theory Shai Ben-David, Understanding Machine Learning: from theory to algorithm Mohri, Foundations of Machine Learning Vazirani, An Introduction to Computational Learning Theory 이런쪽인듯

[익명(211.114)]

오 책추천 고마워. 사실 나도 공부한지 얼마안됐어서, 근데 Vapnik은 좀 오래되지않았음? 내가 알기론 1990년대에 나온거로 아는데, Mohri도 2006년에 나온걸로알고. 혹시 4권중에 제일 추천해줄수있는 책이 있을까??

[익명(222.107)]

Mohri는 2018년에 2판 나옴 Vapnik은 오래되긴 했는데 그래도 레퍼런스 추천 검색해보면 가장 먼저 나오는 책 중 하나기도 하고 VC dimension의 장본인이라 넣음 나도 아직 읽어보지는 않았다만... Mohri랑 Shai Ben-david만 비교하자면 Shai ben-david의 책은 좀 넓은 주제를 다루는 introduction의 느낌이고 Mohri의 책은 다루는 주제는 좀 적은데 좀더 수학적으로 깊게 들어감 그리고 Mohri책이 online learning에 대해 좀 많이 다룰거임 online learning 쪽은 lugosi의 prediction learning and games도 유명한걸로 알고있음

[익명(222.107)]

그외에도 Gaussian Process for Machine Learning도 재밌어보이고... 머신러닝 책들은 대부분 온라인으로 공개되어있는게 많아서 함 가볍게 훝어보는것도 괜찮아보임 일단 mohri랑 ben-david lugosi는 온라인에 있다 근데 이양반들 욀케 다 이름이 어렵냐 외우기힘드네

[익명(211.114)]

오 ㅋㅋㅋ 진짜 감사. 사실 나도 ESL 읽으면서 좀더 이론적인 거 없나해서 찾아보고있었고 그중에 찾은게 Vapnik이랑 Mohri였거든. 근데 둘다 오래된 책이라 이거 읽는게 맞나? 싶었었음 ㅋㅋㅋ. 비전이랑 자연어처리에 비하면야 여기는 이론이라서 연구진행속도가 느리다고해도 분야가 분야인지라 몇십년전 텍스트북 아직도쓰는 수학에 비하면 빠른편이잖아. 그래서 outdated 된거아닌가..? 싶어서 좀 망설이고있었는데, 여기서 책추천을 받네. GP for machine learning은 나도 읽어보는중. 아무튼 고마워!

[ㄴㄴ(115.88)]

진짜 너무 상세하게 알려줘서 너무 감사함.. 진로잡는데 도움 많이될듯

[익명(222.107)]

CS 산공 전전 통계 컴공 AI대학원 등등에 찾아보면 다 있긴 있음 AI대학원같은경우는 기존과들이랑 교수진 좀 겹치긴하는데

[ㄴㄴ(115.88)]

찾아볼때 대부분 다 응용랩실같이 생걌어서 이론이라곤 생각 안했었음 ㅋㅋ 근데 이론랩실이면 수학같은거는 자기네들이 알아서 공부해서 쓰는건가 아니면 컴공이나 전전에서 배우는내용으로 이론을 전개해가는건가

[익명(222.107)]

뭐 수렴진화해가지 않을까