[일반] 딥 공부한지 얼마 안됐는데, 다 뭔가 결과론적인거같네

[딥삣삐(112.155)]

유명한 논문들 보는데, 모델 관련해서는 "이런거 추가해서 돌려보니 잘나왔다. 이 구조 좋다" 이런식인것만 보이고, 데이터 관련해서도 다 결과론적인 느낌. 원래 논문이란게 그런건가? 대부분 발견인가? 

나는 계속 "왜?" 라는 질문만 생기는데, 계속 파다 보면 명확한 답이 나오질 않아서 현타가 온 듯.

[익명(119.197)]

그런논문만 본거아님? 많은 논문들중에서 loss를 elbo bound 보임으로서 distribution matching이 잘된다, 이런 trajectory를 따라가면 어떤 성질이 보장되서 품질이 유지하면서 효율좋은 샘플링 된다고 주장하는것도 많음

[딥삣삐 3(115.139)]

어느 분야 공부하심? 그런 진짜 깔끔한 논문들 보고 싶네.

[딥삣삐 1(211.115)]

이 바닥 이론은 그냥 갖다 붙이기지. 트랜스포머가 왜 잘 동작하는지 아직도 모름. 이론이 경험을 못 따라감. 애초에 이론이 존재하나 싶기도 하고. 내 생각엔 좀 발생학적인거라

[익명(124.197)]

이론은 존재함... 주목을 많이 못 받아서 그렇지

[딥삣삐 2(218.155)]

답이 있는 학문이 있나 싶네

[익명(58.124)]

처음부터 딥러닝은 공학이거든. 어떻게든 퍼포먼스 나오면 좋지. 근본적인 원리는 나중인 곳이다

[익명(58.124)]

이론 분야는 수학자들이 꾸준히 하고 있음. 공학자는 공학을 하면 된다.

[익명(58.124)]

비행기 띄웠을 때 그거 제대로 설명한 이론은 처음에는 없었음

[딥삣삐 4(121.162)]

트랜스포머까지 들어가지 않아도, MLP의 각 퍼셉트론 weight가 어떤 의미를 갖는지, input이랑 무슨 관계를 갖는지 명확하게 설명하는 것도 아직 없는걸로 앎. 대부분 그냥 시도해보거나 매우 특수한 가정 (layer 1개 혹은 2개 가정 등 매우 한정적인 가정들) 하에서 증명하는게 다임.

[딥삣삐 5(126.157)]

하다보면 별로 그렇지도 않다는걸 알게 될꺼야

[딥삣삐 6(117.111)]

신경망이 원래 확률계산기고 블랙박스니 당연한 특성아닌가?

[불닭빌런(ingyerking123)]

게이 뇌세포 하나하나가 무슨생각을 하는지 모르는것과 같음