7becf325ccfb3caa388bfafb29e2086c9fe6736a36cc2bb352446d614782308f30f076


https://www.amazon.com/Deep-Learning-Architectures-Mathematical-Approach/dp/3030367207



레딧에서 딥러닝에 대해 수학적으로 분석한 텍스트북 없는가 검색해서 알게된 책입니다.

Amazon.com: Deep Learning Architectures: A Mathematical Approach (Springer Series in the Data Sciences): 9783030367206: Calin, Ovidiu: Books

Amazon.com: Deep Learning Architectures: A Mathematical Approach (Springer Series in the Data Sciences): 9783030367206: Calin, Ovidiu: Books

www.amazon.com



참고로 나는 이책 읽기 전에 Rudin의 Real and Complex Analysis 읽었고, Functional Analysis는 파트2까지 읽어서 어느정도 수학적 베이스가 있음.

읽다보면 루딘의 Functional Analysis 파트 2까지 읽은 사람 아니면 좀 이해하기 어려운 부분이 있었음.


책에서 어느정도 정리나, 용어를 Appendix에서 대략적으로 설명해주기는 하는데, 

개념이 안잡힌 사람은 좀 어려울 것이라고 생각함.



일단 지금 파트3 까지 읽었고, 아직 절반정도 남았음.


각 파라미터의 크기를 제한하는 regulization이 어떻게 네트워크의 convergence에 영향을 미치는지, 

regulaization 함수와 네트워크 함수의 gradient의 기하학적인 형태,

딥러닝 네트워크가 어떤 조건하에 어떻게 타겟 함수와의 l2 distance, l1 distance, supreme distance를 

최소화가 가능한지,  등등을 수학적으로 잘 설명해줌.


그래서 계속 읽을건데...


문제점이 참 많습니다.



1. 기호를 자주 틀림. 


a*라고 표시해야할 것을 a라고 표시한다던가 ⊇을 써야 하는데 방향을 틀려서 ⊆ 쓴다던가하는 에러가 있음.

그래서 지속적으로 지금 저자가 맞게 쓴건지 의심하면서 읽어야 함. 


이중에 뭐 하나를 잘못쓴건데 어떤걸 어떻게 잘못쓴거지? 같은 사태가 일어나면 짜증남.



혹은 방금전에 쓴 기호를 그 다음에 다른 의미로 재사용한다던가 해서 헷갈리게 만듬.





2. 뜬금없이 자기 혼자만 아는 단어 씀. 

degenerate direction이란 단어가 나오는데, 내가 모르는 수학 용어인가 해서 구글링해도 별것 안나옴.

그냥 지가 만들어서 지 수업에서만 써본듯한 단어 씀. 

뭔말인지 못알아먹어서 헤멨고, 겨우겨우 이게 뭘 뜻하는 단어겠구나 어렵풋이 짐작함.


몇몇 설명이 필요한 좀 마이너해 보이는 듯한 수학 용어도 아무 설명 없이 그냥 씀.



3. 틀린 증명이 나옴.

증명 하나를 a는 정확히 xx가 아니지만 대략 a ~= xx라고 전제하고 증명을 해보자라는 식으로 엄밀하지 않은 증명을 만들어가는데,

 그 대략적인 증명 마저도 틀렸음.

내가 올바른 증명 스스로 만들어 내서, 저자가 있었던 대학교 메일로 일단 문의 해봤음. 

답변 아직까지 없음.


증명의 전제나 단어를 똑바로 설정하지 않음. 

예, "아니 이건, local minimum, local maximum이 없어야 성립하는 주장이잖아? 내가 뭐 잘못 이해한건가? 아니네 그냥 빼먹은 거네."



4. 그래서 어쩌라고, lemma, preposition

뭔가 꽤나 그럴듯한 lemma나 preposition 몇개를 증명했는데,

그게 지금 이야기하는 주제랑 어떻게 이어지는지, 혹은 그래서 이걸 뭐 어떻게 응용할건지 말 안해주고 넘어감.

뭘 어쩌란 거냐.



돈받고 파는 주제에 이딴식으로 성의 없이 쓴게 열받는 책이다.

그래도 흥미로운 부분이 있어서 일단 계속 읽을 생각임.




누가 이거 상위 호환인 교과서 아는거 있음 알려주세요.