[📪정보] AI에 의한 이미지 가공 방지해주는 시스템

[익명(112.184)]

최근 AI를 이용한 이미지 생성 기술 향상에 의해 원래 이미지를 위화감 없이 바꿔 가짜 정보를 만들어낼 수 있는 상황이 벌어지고 있다. 이런 가운데 매사추세츠공대 연구팀이 눈에 보이지 않는 변화를 이미지에 더해 AI에 의한 가공을 방지하는 시스템인 포토가드(PhotoGuard)를 발표했다.


이들은 달리(DALL-E) 같은 이미지 생성 AI에 의해 이미지 생성과 가공이 단순한 자연 언어만으로 가능하게 됐다고 하는 한편 악의적 이미지 편집이 이뤄질 위험이 커졌다고 지적하고 있다. 포토가드는 이미지에 보이지 않는 수정을 추가해 AI에 의한 이미지 편집을 방해하는 시스템이다. 포토가드를 적용한 이미지는 원래 이미지와 구분이 되지 않지만 AI가 지시를 내려도 부자연스러운 이미지로 완성된다.

https://github.com/MadryLab/photoguard



https://techrecipe.co.kr/posts/47460

[익명(58.120)]

스샷 같은 수단도 방지가 되나? 신기하네