[일반] AI 대단한거 맞긴맞음?

[익명(119.198)]

막상 업계 최일선에 있는 사람들은 별거 없다고 하던데

- dc official App

[익명(121.128)]

어떤 측면에서, 어떤 기준에서 보느냐에 따라 다르겠지. 뭔 곧 강인공지능이 나올 것마냥 호들갑 떠는 거에 비하면 아무것도 아닐 거고 그 아무것도 아닌 것만으로도 산업적인 파급력은 클 수도 있는 거고 그런 거지.

[익명(220.70)]

알파고 못봄?

[익명(220.70)]

다만 업계마다 ai의 퍼포먼스가 휴리스틱한 프로그램보다 훨씬 뛰어난 경우도 있을거고 별 차이 없는 경우도 있겠지

[익명(172.225)]

경우의 수가... 한정적...?

[익명(223.38)]

음성 이미지 영상까지는 통함 그 이상의 noise가 낀 데이터에는 택도없고

[김이요°(karma5)]

별거 없다고 말하는 사람 중에 신경망이 왜 generalize 를 잘하는지 이론적으로 설명할 수 있는 사람은 거의 없을듯?

[익명(175.223)]

왜 잘해요? 갑자기 궁금하네..

[ㅇㅇㅇㅇ(121.162)]

유니버셜 펑션 어프록시메이터라서?

[ㅇㅇㅇㅇ(121.162)]

결국엔 통계를 오토피팅시키는거니까 신경망의 구조를 잘 짜서 데이터를 멕이면 적절한 함수를 뽑아주는거지.

[ㅇㅇㅇㅇ(121.162)]

근데 이 Generalization이 우리 업계에서 이야기하는 그건지 아닌지는 모루겠네요

[ㅇㅇㅇㅇ(121.162)]

사실 나도 이론적으로 설명하라 그러면 좀 애매하긴하지 .ㅋㅋ... 거기부터는 실질적으로 통계의 영역이니까

[김이요°(karma5)]

https://openreview.net/forum?id=lycl1GD7fVP

[김이요°(karma5)]

https://arxiv.org/abs/1806.07572

[김이요°(karma5)]

https://arxiv.org/abs/1802.01396

[김이요°(karma5)]

https://www.jmlr.org/papers/volume3/bartlett02a/bartlett02a.pdf

[김이요°(karma5)]

https://arxiv.org/abs/1503.00036

[김이요°(karma5)]

앞에 세개는 kernel learning과 Neural Tangent Kernel 로 일반화에 대해 설명하는 논문들이고 그 다음 두개는 전통적 통계적 학습 이론으로 신경망의 generalization error를 bound 하는거고

[김이요°(karma5)]

https://arxiv.org/pdf/2101.12176.pdf

[김이요°(karma5)]

이건 SGD가 implicitly regularization 한다는 내용임 regularzation 은 위의 complexity랑 연계되어서 일반화를 설명할 수 있음

[김이요°(karma5)]

Universal approximation theorem 도 중요한 요소긴 한데 고전적인 interpolation이나 regression 등도 모든 함수 근사할 수 있음

[익명(110.70)]

와 진짜 감사합니다 다들

[익명(23.119)]

이론적 연구는 여러 방향으로 빌전했는데 uat의 bounded width 케이스, 기존 kernel theory외의 관계를 infinite-width nn 와 Gaussian process 연계해서 설명 (ntk, nngp 등), 최적화 기반 방법론 incremental gradient descent로 설명 윗분이 링크로 친절하게 다 달아놓으셨네

[익명(23.119)]

비주류로 learning theory의 PAC와 연계할 수도 있는데, 전부 소위 active area of research고 왜 generalize 잘되는지 이거 설명 가능한 전문가면 머신러닝 탑 권위자로 구글에서 chief scientist 스카웃 받고 Turing award 받을 수 있음

[속상한기태씨(soksanghae)]

의사는 AI때메 인원 감축 된다고 함 대학병원 의사한테 오늘 들음 - dc App

[익명(211.238)]

내 생각에는 이렇다. 인공지능에는 방식이 두가지 있는걸로 보이는데, 하나는 통계학, 수학, 컴퓨터과학으로 만드는 인공지능으로 보이고, 다른 하나는 생물학적 이해에 기반을 둔 인공지능. 지금까지 성과낸건 전자로 알고있음. 그런데 이 인공지능에는 한계가 분명할걸로 생각함. 일단 전자의 방식으로 암묵적으로 다들 원하는 강인공지능을 만들수있다는 보장이 없음. 그리고 이건 다른 사회과학들이 부딪히는 비판하고 동일한 비판인데, 결국 가장 확실한 방법은 인간과 비슷한 인공지능 만드는것이잖아?(사회과학쪽에서는 인간을 이해하는게 목표고) 그럼에도 불구하고 생물학(사회과학쪽에선 진화론)의 통섭적인 학제적연구를 안하는 이유가 뭐야? : 이게 비판임. 현 사회과학도 대부분 저런 비판을 받고있고 인공지능도 비슷하다고 생각한다.

[익명(211.238)]

너무 전자방식의 주류인공지능을 비판적으로 썼는데, 전자의 연구가 후자의 연구에 크게 도움이 될거라고 생각하고있음. 결론은 내 생각에는 후자의 연구방식이 강인공지능에 도달하는 가장확실한 방법이라 생각하고, 나도 수학과인데 생물학분야를 기반으로둔 인공지능분야 대학원에 지원하고싶음.

[익명(223.38)]

그게 뇌과학 아닐까 싶은데

[익명(147.47)]

regression이랑 딥러닝이랑 구분 못하는 사람도 많은걸