주로 CMU 강의자료 번역한건데 어차피 그것도 보이드 자료 참고해서 만든거라 대충 비슷하긴 함 ㅇㅇ
익명(106.102)2023-08-22 23:31
괜찮은 편이고 조금 더 깊게 들어가면 코넬이나 노스웨스턴 오픈 텍스트북 자료 같은걸 보는걸 추천함
익명(106.102)2023-08-22 23:35
답글
보이드 대신 봐고 ㄱㅊ다는거네 ㄱㅅㄱㅅ 아직은 그렇게 깊이 팔 필요가 있나 싶음.. - dc App
Sesiwo(visiopo44)2023-08-22 23:40
난 근데 사람들이 이론 연구를 할 것도 아니면서 최적화 공부를 왜 한다는건지 이해를 못하겠다
익명(223.62)2023-08-23 05:14
답글
진짜 눈곱만큼 도움 될텐데 그럴바에 선대 복습이나 하고 말지
익명(223.62)2023-08-23 05:15
답글
컨벡스랑 쌍대성에 대한 개념 이해는 선대보다도 중요함. 일단 현재 나와있는 대부분 인공지능 모델들이 컨벡스 최적화로부터 파생된거기도 하고 글로벌 최적을 보장시키는 조건을 모르는 채 사용할거면 그냥 메타 휴리스틱이 더 낫거든
익명(106.102)2023-08-23 10:27
답글
가령 컨벡스에 대해서만 이해하여도 손실함수나 옵티마이저의 원리에 대하여 제대로 이해할 수 있고 쌍대성 같은 개념을 이해하면 문제 자체를 다른 시각으로 바라 볼 수 있게 됨. 단순히 max 문제를 min문제로 변환하는 것을 넘어서 제약조건을 추가하거나 알지못하는 문제의 궤적을 근사화하여 글로벌 최적을 보장하도록 만들수도 있지
익명(106.102)2023-08-23 10:45
답글
뭔소리하는거임. 지금 집러닝에서 다루는 문제들의 global 해를 찾는다는건 P=NP 를 증명했다는 거랑 동치임 ㅋ convex optimization 에서 가장 핫했던 convex relaxation 계열 variational image analysis 가 죽은 이유가 딥러닝 때문인데
익명(23.119)2023-08-24 08:48
답글
딥러닝이 다루는 문제가 정확히 어떤문제를 의미하는건지는 모르겠지만 일반적으로 nonlinear nonconvex 문제가 가장 큰 이슈니까 그거 기준으로 이야기해주면 nonlinear nonconvex로 구할수 있는 global optimization 방법은 많고 정확히 이야기하면 NP를 P로 변환이 가능하게 만든다고 봐야지
익명(106.102)2023-08-24 09:27
답글
가장 대표적인건 decomposition 같은게 있지 문제의 단위를 쪼개서 np를 p로 바꾸는건데 최근에는 여기에 ambiguity set까지 결합되는 형태로 많이 쓰임.
익명(106.102)2023-08-24 09:36
답글
ㄷㄷㄷ 지금 너가 뭔말 하고있는지 정신 못차리는듯. 어설프게 수학공부한 애들이 이렇게 무섭다니까 ㅋ 그거 증명하면 필즈상이다 + 13억원 현찰. 뭐하냐 논문 안쓰고
익명(23.119)2023-08-25 23:55
답글
아키텍쳐설계하고 할거면 알아야하는거 아님? - dc App
Sesiwo(visiopo44)2023-08-26 00:26
답글
이해가 잘 안되나본데 NP문제는 결국 다항시간 안에 풀수 없는 문제를 의미할뿐이야, decomposition 방법을 사용해서 문제의 차원을 쪼개나가면 결국엔 다항시간 안에 풀수 있다는 사실은 굳이 내가 증명하지 않아도 예전부터 받아들여지고 있는 컨셉임. 애초에 딥러닝보다는 메타휴리스틱이나 최적화쪽에서 다루어지는 문제이기도 하고
익명(106.102)2023-08-27 03:14
답글
.. 예 그거 증명하셔서 P=NP 문제 푼 공로로 100만불의 현찰과 필즈메달 명예도 얻고, 저같은 미천한 최적화 연구하는 사람들 일자리 잃게 다항시간내 global minimum 을 guaranteed 하는 아름다운 알고리즘을 주시면 감사하겠습니다
그게 보이드 번역한거아님?
주로 CMU 강의자료 번역한건데 어차피 그것도 보이드 자료 참고해서 만든거라 대충 비슷하긴 함 ㅇㅇ
괜찮은 편이고 조금 더 깊게 들어가면 코넬이나 노스웨스턴 오픈 텍스트북 자료 같은걸 보는걸 추천함
보이드 대신 봐고 ㄱㅊ다는거네 ㄱㅅㄱㅅ 아직은 그렇게 깊이 팔 필요가 있나 싶음.. - dc App
난 근데 사람들이 이론 연구를 할 것도 아니면서 최적화 공부를 왜 한다는건지 이해를 못하겠다
진짜 눈곱만큼 도움 될텐데 그럴바에 선대 복습이나 하고 말지
컨벡스랑 쌍대성에 대한 개념 이해는 선대보다도 중요함. 일단 현재 나와있는 대부분 인공지능 모델들이 컨벡스 최적화로부터 파생된거기도 하고 글로벌 최적을 보장시키는 조건을 모르는 채 사용할거면 그냥 메타 휴리스틱이 더 낫거든
가령 컨벡스에 대해서만 이해하여도 손실함수나 옵티마이저의 원리에 대하여 제대로 이해할 수 있고 쌍대성 같은 개념을 이해하면 문제 자체를 다른 시각으로 바라 볼 수 있게 됨. 단순히 max 문제를 min문제로 변환하는 것을 넘어서 제약조건을 추가하거나 알지못하는 문제의 궤적을 근사화하여 글로벌 최적을 보장하도록 만들수도 있지
뭔소리하는거임. 지금 집러닝에서 다루는 문제들의 global 해를 찾는다는건 P=NP 를 증명했다는 거랑 동치임 ㅋ convex optimization 에서 가장 핫했던 convex relaxation 계열 variational image analysis 가 죽은 이유가 딥러닝 때문인데
딥러닝이 다루는 문제가 정확히 어떤문제를 의미하는건지는 모르겠지만 일반적으로 nonlinear nonconvex 문제가 가장 큰 이슈니까 그거 기준으로 이야기해주면 nonlinear nonconvex로 구할수 있는 global optimization 방법은 많고 정확히 이야기하면 NP를 P로 변환이 가능하게 만든다고 봐야지
가장 대표적인건 decomposition 같은게 있지 문제의 단위를 쪼개서 np를 p로 바꾸는건데 최근에는 여기에 ambiguity set까지 결합되는 형태로 많이 쓰임.
ㄷㄷㄷ 지금 너가 뭔말 하고있는지 정신 못차리는듯. 어설프게 수학공부한 애들이 이렇게 무섭다니까 ㅋ 그거 증명하면 필즈상이다 + 13억원 현찰. 뭐하냐 논문 안쓰고
아키텍쳐설계하고 할거면 알아야하는거 아님? - dc App
이해가 잘 안되나본데 NP문제는 결국 다항시간 안에 풀수 없는 문제를 의미할뿐이야, decomposition 방법을 사용해서 문제의 차원을 쪼개나가면 결국엔 다항시간 안에 풀수 있다는 사실은 굳이 내가 증명하지 않아도 예전부터 받아들여지고 있는 컨셉임. 애초에 딥러닝보다는 메타휴리스틱이나 최적화쪽에서 다루어지는 문제이기도 하고
.. 예 그거 증명하셔서 P=NP 문제 푼 공로로 100만불의 현찰과 필즈메달 명예도 얻고, 저같은 미천한 최적화 연구하는 사람들 일자리 잃게 다항시간내 global minimum 을 guaranteed 하는 아름다운 알고리즘을 주시면 감사하겠습니다
딥러닝이라고하긴묘한데 머신러닝분야에서 아직도 행렬에 제약조건 넣고 이것저것 만지작만지작 하는 분야가 많음
https://dl.acm.org/doi/abs/10.1145/3336191.3371774
https://proceedings.mlr.press/v119/blondel20a.html
요런것도
Sorting 저 논문 뭔가 신기하네... 통계+cs 다 들어간 느낌