최근 들어서 머신러닝 이론에 관심이 생겨서 논문도 읽고 궁극적으로는 연구를 진행해보려고 함.
학부 1학년 때 해석+선대+확률론(학부)+수통을 떼고 6년이 흘러서 기억이 매우 매우 흐릿한 상황.. 당시 모두 A 받았던 걸로 기억
정확한 상태를 말하자면 60%의 개념들이 뭐였는지 정말 대충 기억은 나는데 (40%는 까먹고) 여러 개념들을 유기적으로 연결하거나 중/상급 응용 문제를 풀어보라면 전혀 못 푸는 수준임.
두 학기 전에 실해석을 어찌저찌 듣긴 했는데, 해석학 내용이 그렇게 중요하지는 않아서 무난하게 마무리 했음.
여기서 질문: 연구를 시작하기 위해서 아래 둘 중 어떤 방법을 추천함? 다른 방법이 있다면 추천해주면 매우 감사하겠음.
1. 기초를 다지기 위해 해석학, 확률론, 수리통계를 꼼꼼하게 복습하고 논문 읽기에 들어간다.
2. 관심 분야 이론 논문을 읽기 시작하고 필요한 부분만 채우면서 왔다갔다 읽는다.
기타 질문: 본격적으로 연구를 하려면 대학원 수준의 확률론(measure-theoretic)도 필요한 것 같은데, 학부 확률론 기억이 잘 안 나도 증명/수학 텍스트 읽는 데 익숙하다면 그냥 직진할까? 미적분 기반 학부 확률론이 필요/중요하긴 함?
대학원 진학해서 교수나 선배들한테 지도를 받으라는 답변이 나올 것 같아 미리 얘기를 하자면, 현재 완전 타분야 대학원에서 데이터 뚝딱이는 실증 연구를 하고 있는데, 우리 과 교수님들이 잘 모르시는 분야를 개척하려 하고 있기에 독학과 혼자의 힘에 의존해야 됨.
답글 달아주는 딥갤러들 시간 내줘서 미리 정말 감사함.
글만 보면 해석 위주로 하는 이론인가보네ㅋ 여기도 분야가 많은데 optimal transport, optimization theory, numerical analysis 같이 응용수학과 아예 같은 분야도 많고. 그냥 너 하고싶은데로 하면 됨. 필요하면 코스웍 들으면서 따라가고, 아니면 독학하는거고
답변 ㄱㅅㄱㅅ. 현재 관심 있는 부분은 online learning 쪽인데 (learning theory adjacent), 원래 파던 주력 분야랑 융합시키려 하고 있음. 완전 새로운 분야 개척하고 싶은 마음이 있어서.
그 분야는 또 거기서도 특수한거 아니면 아주 테크니컬한 해석 관련 수학과 대학원 과목들 더 들어야 할것 같진 않은듯. 다만 이론 체크 및 방향성, 그리고 논문 쓰고 난뒤 체크 해줄 사람은 무조건 있어야해서 교수님한테 어느정도 방향성 잡은뒤 말씀드리고, 코웍 할 사람 찾아야할듯
도메인 스페시픽 ml 어플리케이션도 아니고 ml theory쪽 리서치를 선배도, 교수도 없이 부족한 수학 백그라운드 갖고 혼자 다이빙한다라는게 난 잘 모르겠음... 기본적으로 1,2중에는 어느 정도 기본이 되었다 치면 2가 맞긴 한데, 그냥 써져있는 페이퍼를 이해하는거랑 (이론쪽은 뭐 이것도 전혀 쉽진 않지만) 그쪽에서 유의미한 컨트리뷰션을 해서 페이퍼를 쓰는거랑은 비교도 할 수 없을 만큼 차이나는데 이게 현 상황에서 가능한건지 다시 한번 생각해 보는걸 추천함.
간단하게 말하면, 혼자서 ml theory 페이퍼들을 이해할 수 있도록 공부를 해보겠다 (분명 어려운 길이지만 가능) 혼자서 ml theory 리서치를 해보겠다... (X)
정성스러운 답변과 충고 ㄱㅅㄱㅅ. 유의미한 결과물을 뽑아낸다는 건 욕심이라는 걸 알기에 논문이라도 너무 큰 어려움 없이 읽어보고자 하는 마음이 큼. 논문을 읽고 최전선에서 무슨 연구 활동이 일어나고 있는지 알아야 연구에 뛰어들든 하니까.. 이론 논문을 읽고 이해하는 게 목적이라면 (논리 따라감 + 핵심 직관 캐치) 어떤 식의 수학 복습/공부 방법이 올바른 걸까?
한국에 제대로 가르치는 학교가 (거의)없는데 순수수학이랑 쓰는 테크닉이 달라. 각 분야마다 대가들이 쓴 대학원 수준 교과서들이 있으니 그거 읽으면 됨. 실해석보단 확률이나 선대 관련 응용수학 테크닉들이 있음 예를 들어 concentration inequality. 근데 순수수학적으로 배경지식 별로 필요 없고 걍 바로 dive하면 됨
덕분에 좋은 것 알았습니다.
고맙습니다