[%] 컴퓨터비전 딥러닝돌리면 노이즈를 분간못한다는게 사실임??

[크로마토그래피(58.233)]

https://www.quora.com/What-are-the-current-major-limitations-of-computer-vision

팬더 사진에 노이즈 살짝 넣었더니 99퍼 확신도로 원숭이라고 답한다던데 딥러닝은 모르는데 기존 비전/영상 이론에서는 노이즈 처리 할수있지 않았음??

딥러닝이랑 융합해서 거의다 정복된줄 알았는데 위 내용이 사실이면 많이 부족하네;;;

[dd(175.112)]

진짜 단편적인 예시 하나 들고와서 호들갑떠는건 좀;

[dd(175.112)]

저건 걍 딥러닝 잘못하면 이렇게된다는 예시임

[크로마토그래피(58.233)]

밑줄에 보면 비전을 게임이나 엔터쪽에 쓰는건 ㅇㅋ인데 의료같은데 쓰면 언제든 파산할 준비하라는데 아직 한계점인거 아님?? 그리고 호들갑이 아니라 궁금해서 물어본겨

[black7375(220.70)]

학습이 잘못된거겠지.. 이건 걍 이런 경우도 있을수 있다는 예시. - dc App

[black7375(220.70)]

간단한 모델인 오토인코더만 봐도 노이즈 제거가 주예제로 쓰임. - dc App

[다믜(damhiya)]

그냥 노이즈가 아니라 일부러 잘못된 해석을 유도하는 노이즈를 만들 수 있다는 뜻 아님?

[익명(121.130)]

저건 의도적으로 엿먹이는 노이즈를 생성한거임 adversarial attack 검색해보셈

[제대로된(14.47)]

맞는말 한 사람은 121.130 밖에 없는 듯

[제대로된(14.47)]

adversarial attack이라고 네트워크 엿먹이는 방향으로 노이즈를 생성시키는 건데, 애초에 저런 노이즈는 네트워크의 모든 구조를 알아야지만 생성 할 수가 있음. 그리고 학습과정에서 adversarial input을 같이 이용해서 loss텀에 추가 해 줌으로써 오히려 노이즈에 robust 하도록 학습 할 수 있고

[크로마토그래피(58.233)]

감사감사 오개념 잡힐뻔했네;;; 근데 실생활, 일반적 사용목적에서는 볼일 없다는거야? 출처글 글쓴이가 쓴거보면 의료에서 쓰려면 파산할 각오하라길래 흔한줄 알았는데

[데자와민트초코(chlwnsgud7)]

해커놈이 자율주행자동차에 들어가는 도로인식 ai를 엿먹이는 노이즈를 길거리에 세워두었다고 생각해보셈

[데자와민트초코(chlwnsgud7)]

예시는 이미지 전체에 먹였지만 구글에서 그냥 물건에 어떤 이미지를 붙여서 같이 인식시켜서 완전히 다른 물건으로 인식시키게 만든 걸 본 적이 있삼

[데자와민트초코(chlwnsgud7)]

http://m.itbiznews.com/news/articleView.html?idxno=8430
또 찾아보니 현재 기술로는 이 패치가 무력화 되었다고는 하네...

[제대로된(203.252)]

데자와민트초코님이 올려 주신 adversarial patch 논문 읽어보고 왔는데 재밌네요 이 논문 같은 경우에는 이미지를 인식하는 AI인 X가 있을 때 이미지를 인식하는 AI를 헷갈리게 하는 걸 목적으로 하는 adversarial patch를 생성하는 AI인 Y를 훈련시키는데 이렇게 트레이닝 된 adversarial patch가 X뿐만 아니라 비슷한 목적의 네트워크인 X'에서도 작동한다는 내용이네요.

[제대로된(203.252)]

이건 노이즈라기보다는 해킹쪽의 영역이라고 봐야 한다고 생각합니다. 해결이 가능한 영역이기도하고 의도적으로 네트워크가 착각하게 만드는 건데, 사람으로 치면 착시현상?? 사람이 어떻게 원근감을 가지는지 파악해서 역으로 멀리 있는 걸 가까이 보이게 하는 것처럼 AI가 토스트를 어떻게 파악하는지 파악해서 이미지를 토스트로 보이게 하는 거라고 생각하면 될 듯