[간단한 제 소개]
- 수학과 졸업생입니다.
- 핵심 과목으로는 미적, 선대, 확률론, 수통, 수치해석, 해석, 실해석, 대학원 확률론 (실해석 기반), 고차원 통계학 수업들 들었습니다.
- MATLAB, R 기본 할 줄 압니다.
- 기초를 개단단하게 다지는, 미친 이론+implementation 기본기를 갖추는 게 학습 목표입니다.
- 학습 기간은 1년 꼬박, 일주일에 약 10-20시간 정도 투자하는 것으로 생각 중 입니다.
- 이번에 미국 탑스쿨에서 박사를 시작하는데 하는 거 봐서 master out 한 뒤 빅테크 MLE로 가거나 박사 졸업 후 빅테크 RS로 가는 게 목표입니다.
[지금 생각하고 있는 공부 내용–순서대로]
(1) MIT 6.0001 Introduction to Computer Science and Programming in Python 강의 들으면서 숙제, 프로젝트 해보기.
(2) Shalev-Shwartz and Ben-David의 Understanding Machine Learning 읽으면서 learning theory 기초 다지기.
(3) Elements of Statistical Learning 읽고 파이썬으로 library 없이 implement 해보고 (from scratch) scikit-learn의 implementation이랑 비교/분석하며 efficient implementation 공부.
(4) Murphy의 Probabilistic Machine Learning: Advanced Topics 관심 있는 부분만 발췌독.
(5) Goodfellow의 Deep Learning 읽으면서 PyTorch 연습.
(6) Sutskever reading list 읽으면서 implement 연습.
*** 1년 후 (1)–(6)이 끝나면 관심 분야 프로젝트 시작.
[하고 싶은 공부–상기된 학습 목표를 달성하고 시간적, 정신적 여유가 된다면]
(1) Algorithms and data structures - CLRS 읽고 Leetcode 해볼까 생각 중입니다.
(2) Computer architecture - C++/CUDA 배우면서 공부를 해보고 싶습니다.
[질문]
(1) 너무 비효율적인가요? '빼도 되는'이 아니라 '빼야 되는' 것 같은 내용이 있나요?
(2) Outdated 된 게 있나요? 예를 들면 X를 보지 말고 Y를 봐라 같은..
(3) 제가 꼭 봐야 되지만 놓친 내용이 있을까요?
감사합니다.
목표를 알려줘야지 목표를 안알려주고 자기 소개만 하면 무슨 조언을 하라는겨
수정했습니다 고마워요
학부 컴공이여서 이게 맞는지는 모르겠는데 코딩은 python 배워둔거(pytorch는 따로 공부하지는 않하고 resnet 구현 + 실전(다른 사람 코드 가쟈와서 실험)게 다고, 컴공 지식은 별로 도움이 안되는데 시스탬 프로그래밍 지식 알아둔게 도움 됬음(모든 실험 코드를 서버, command line interface로 돌리니까) 컴공에서 도움 됬던거 python(매우 기초) 배운거, 객체지향 프로그래밍(객체라는 개념 이해)이 직접적으로 도움됐고 시스템 프로그래밍이 간접적으로 도움됬어.
c++은 배울 필요 없을거 같고 책보는것보다 그냥 유명한 강의(cs231n)듣는게 좋을거 같고 너가 뭘 하는지 모르지만 쌩으로 구현하는건 비효율적아닐까?
그런데 저렇게 하면 연구할 시간되?
수학 백그라운드가 컴공대비 엄청 탄탄한건 맞는데 저걸로 딥러닝이론 연구하긴 아직 멀어서… 이론에 풀집중하던 코딩에 풀집중하던 선택을 해야할거 같은데
Understanding machine learning 이건 안봐서 모르겠는데 갠적으론 vershynin의 high dimensional probability 추천
의견 감사합니다. 언급은 안 했지만 상미방 및 편미방, 그래프이론, 위상, 미분위상, 미분기하학, 미분다양체, 대학원 함수해석학과 푸리에 해석까지 들은 상태이긴 합니다.
3번은 그냥 안하고 4번의 책 내용들 가지고 하시면 될듯.
굿펠로 책이 좋긴한데 어지간해선 머피 2023년인가 2024년 개정판에서 다 다룰거임
ESL은 조금 시대에 뒤처진 느낌이 있는 건가요? 레딧에서 스탠다드 텍스트로 추천하길래 담아봤는데, 머피로 처음부터 끝까지 공부하는 방법도 있겠군요. 의견 감사합니다.
ㄴㄴ 그거라기 보단 어지간한 내용은 언급된 책들에서 다룸. 구현하고 실제와 뭐가 다른지 확인하는건 좋은 공부라 생각함
주변에 수학과나 통계과 출신들이 Ai에서 붕뜨는 이유중 하나가 이론은 빠삭한데 결국 코딩에서 안되는 경우가 많음. 구현하는거 연습 많이하시고 최신논문 보면서 공부방향 잘 조정하시길.. 최적화도 해보시고
중간에 중복되는 책 내용도 있음. 근데 그건 본인이 공부하다보면 자연스럽게 알수밖에 없어서
코딩 쪽으로 많이 무게를 실어보려고 하고는 있습니다.. 그래서 이론을 배우는 족족 구현 연습을 하려는데, 비효율적인 방법이라고 생각하시나요? 차라리 최소한의 이론만 익힌 다음 (교과서 하나만 보고) 논문으로 넘어가는 게 나을까요? 의견 감사합니다.
1. mle 할거면 이론 무쓸모임 2. 졸업할려면 니연구나 해야 졸업하지 위에거 왜함?