[일반] 나이트쉐이드는 오래전부터 나오던 얘기임.

[컴퓨터비전(kimhappyboy)]

그림 Ai가 학습할 때 의도적으로 섞은 노이즈나 암전류에 의한 뻥튀기된 노이즈가 많을 수록 놀라울 정도로 학습을 제대로 못함. 

근데 문제는 노이즈제거 필터 및 화질개선을 진행해도 정확도는 많이 올라오긴 하는데 그래도 정상으로의 복구는 매우 힘듬 

근데 일본 정부가 할려는 것 처럼 불법으로 규정하고, 그 노이즈를 검사하는건 생각보다 어렵지는 않음

근데 아직 나이트쉐이드가 정확히 무슨 원리로 하는건지는 몰라서 코드를 보긴해야할듯

[익명(58.78)]

컴퓨터는 저 사진에 들어있는 노이즈 데이터를 읽어서 문젠데 사람의 눈으로 보면 이상이 없잖음 그런 식으로 착안해서 하는 논문 몇개월전에 봤는데 지금도 진척이 없나?

[컴퓨터비전(kimhappyboy)]

나이트쉐이드 같은 기술은 이미 사용되고 있는거고, 그걸 해결하는 기술이 아직은 부족한 상태

[익명(58.78)]

그래? 컴퓨터가 그 눈으로 보는 실험했는데도 효과가 별로였나? 그 결과가 좋았던걸로 아는데 그 눈으로 보고 학습하는게 전기세 가성비에 안좋은걸수도 있겠네

[Jackey(jackey1084)]

아직까지 제대로된 공격이 없다보니 방어기술에는 상당히 취약함 - dc App

[컴퓨터비전(kimhappyboy)]

그 방법의 가장 큰 문제는 나이트쉐이드에 어느정도 자유로워지기는 한데, 각 픽셀 정보를 정확하게 파악하기 어려워진다는게 문제. 그래서 그 이미지 자체를 가지고 뭘 하기가 어려워지지

[Jackey(jackey1084)]

mit인가 어디서 나이트쉐이드 실험한거 논문 11월쯤 올라왔던거 대충 본거같은데 노이즈 구분이 어렵고 지울려면 모델뜯어서 하나하나 구분해야한다고함 오픈소스로 푼다니까 악용기술,방어기술 둘다나오겠지 - dc App

[익명(58.78)]

근데 생각해보니 역으로 ai가 방어고 나이트가 공격아님?

[익명(58.78)]

시점만 다르게 보면 Ai가 읽다가 공격당해서 방어하려고 하는거라 시점이 나이트넣은사람이냐 아니면 ai냐에 갈리네