[📪정보] 동의없이 ai생성소스에 넣으면 오류일으키는 그림 등장

[aatrxxy(realaxia)]

아티스트 동의 없이 이미지를 학습에 사용할 경우 해당 인공지능(AI) 모델을 손상하는 도구가 등장했다. 이제는 아티스트가 일방적으로 피해만 보는 것이 아니라 적극적인 반격이 가능해지게 됐다.

MIT 테크놀로지 리뷰는 23일(현지시간) 시카고대학교 연구진이 AI 회사가 아티스트의 창작물을 동의 없이 활용하는 것을 방지하고 그 과정에서 AI 모델의 무결성을 위협하는 도구인 ‘나이트쉐이드(NightShade)’를 공개했다고 전했다.

이에 따르면 아티스트는 나이트쉐이드를 사용해 이미지의 픽셀에 눈에 보이지 않는 수정 사항을 주입할 수 있다. 이렇게 변경 사항이 적용된 이미지를 학습한 AI 모델은 생성하는 출력이 부정확해지게 된다. 즉 오염된 학습 데이터로 인해 '달리'나 '미드저니' '스테이블 디퓨전'과 같은 이미지 생성 모델이 왜곡된 이미지를 생성하게 될 수 있다.

이미지의 픽셀을 변경하는 방식으로 AI 훈련에 사용하는 데이터셋을 오염, AI가 이미지를 잘못 해석하게 만든다는 설명이다. 예를 들어 AI가 고양이 사진을 개라고 믿게 만들 수 있고, 그 반대의 경우도 가능하다. 사용자가 손상된 AI에 '고양이' 이미지를 요청한 경우 나이트쉐이드로 인해 '고양이로 라벨이 지정된 개'를 얻게 되는 식이다.

또 나이트쉐이드는 연관 단어에도 영향을 미치는 '독성'도 강한 것으로 알려졌다. 개라는 단어뿐 아니라 '허스키'나 '늑대'와 같은 개념까지도 오염시킨다는 설명이다.

[해당 댓글은 삭제되었습니다.]

해당 댓글은 삭제되었습니다.

[aatrxxy(realaxia)]

아