AI로 인한 가짜 뉴스, 테러, 사기를 방지하기 위해 워터마크 기능 누가 생성했는지 추적하는 기능등을 속속추가 하고 있는데
오디오까지 워터마크를 추가하는 기술을 도입했거든.
만약 AI로 생성한 가짜 목소리로 사기를 치면 추적해서 생성자를 조질 수 있겠지.
그런데 그 생성자가 구글 깡계정이라면? 카드는 도용한거고 IP는 VPN과 토르로 여러번 돌려버린거라면 실제 범인을 찾기 힘들어지겠지.
그래서 아직 오피셜 뉴스로 나온건 아니지만 이런 트윗도 도는 거 같다.
승인된 계정 혹은 라이센스가 있지 않은 사람은 민감한 주제를 AI로 생성하는것에 제약을 두려는 거 같아.
ai생성한 이미지나 동영상을 확대해도 특별한 지문 같은게 남아서 편집이 불가능하게 하면. 손모양이 이상하다고 손만 포토샵으로 수정하면 수정한 곳에서만 ai지문이 없게 됨
이게 왜 성인물 제작 빌드업이냐 오히려 막는거지
문제 생기면 제작자를 찾아서 조질 수 있는 시스템 마련 + 미성년자 보호조치
ex: 탈옥해서 아청물 제작후 유포