[📪정보] 오픈AI, AI 데이터 저작권 강화안 발표...학습 거부 도구 내년 출시

[익명(182.230)]

https://www.aitimes.com/news/articleView.html?idxno=159434

오픈AI, AI 데이터 저작권 강화안 4건 발표...

오픈AI가 인공지능(AI) 학습에 데이터가 사용되지 않도록 지정할 수 있는 도구를 내놓는다고 밝혔다. 또 '달리' 생성 이미지를 감지하는 도구를 내놓고, 미국 최대 디지털 콘텐츠 기업과 손잡는 등 하루 동안 저작권 강화 발표를 4개나 쏟아 냈다.

벤처비트는 7일(현지시간) 제작자와 콘텐츠 소유자에 인터넷 게시 콘텐츠가 AI 학습에 제외할 수 있도록 지정하는 ‘미디어 매니저(Media Manager)’를 개발하고 있다고 보도했다.

이에 따르면 미디어 매니저는 다양한 소스에서 저작권이 있는 텍스트, 이미지, 오디오 및 비디오를 식별하고 제작자가 원하는 바를 반영할 수 있는 최초의 AI 기반 도구로, 2025년 출시 예정이다.

오픈AI는 지난해 8월 인터넷에서 데이터를 긁어 모으는 ‘GPT봇(GPTBot)’의 접근을 막는 ‘robots.txt’ 파일을 공개한 바 있다.  이는 웹사이트의 루트 디렉토리에 위치한 텍스트 파일로, 웹사이트 소유자가 파일을 통해 콘텐츠를 AI 모델 훈련을 위해 스크랩할 수 있는지 여부를 표시할 수 있도록 한다.

하지만 이 방법인 복잡하고, 또 GPT봇을 차단한다고 해서 학습을 원천 봉쇄할 수 있는 것도 아니라는 지적이 나왔다. ‘robots.txt’를 제공하지 않는 사이트도 많고,콘텐츠가 스크린샷으로 찍혀 공유될 수 있으며, 거부 텍스트를 제공하지 않는 웹을 통해 게시되거나 재배포될 수 있기 때문이다.

오픈AI는 “이런 문제점을 인식하고 있다"라며 "미디어 매니저는 이를 포괄하는 효율적이고 확장 가능한 솔루션이 될 것”이라고 설명했다.

평가도 나쁘지 않다. 기존의 '글레이즈(Glaze)'나 '나이트쉐이드(Nightshade)'와 같은 도구보다, AI 훈련을 차단하는 더 효율적인 방법일 수 있다는 분석이다. 하지만 다른 경쟁 모델의 훈련을 차단할 수 있는지도 미지수다.

오픈AI는 미디어 매니저를 개발함과 동시에 제작자와 콘텐츠 소유자, 규제 기관 등과 협력하고 있다고 덧붙였다.

그 예로 디지털 콘텐츠 출처 및 기록 인증을 위한 표준 기술 개발 단체인 '콘텐츠 출처 및 진위성 연합(C2PA)'의 운영 위원회에 합류했다고 밝혔다. 구글, 어도비, 마이크로소프트(MS), 메타, 인텔, 소니 등이 멤버다.

C2PA 표준은 이미지, 텍스트, 비디오, 오디오 등을 변경할 경우 메타데이터를 추가한다. 메타데이터에는 누가 만들었는지, 어떤 도구를 사용했는지, 언제 사용했는지에 대한 자세한 정보가 표시된다.

그 일환으로 오픈AI는 '달리'로 이미지가 생성됐는지를 감지하는 새로운 도구와 생성 콘텐츠를 명확하게 표시하는 C2PA 표준 기반의 새로운 워터마킹을 도입한다고 발표했다. 

새로운 감지기는 사진이 달리로 생성되었는지 여부를 판단한다. 오픈AI는 이미지가 잘리거나 변경되더라도 98%의 정확도를 보인다고 주장했다. 다만 미드저니처럼 다른 AI 모델에서 나온 것을 알아내는 성능은 5~10%에 그친다.

여기에 향후 공개할 비디오 생성 AI '소라(Sora)' 역시 C2PA 메타데이터를 추가한다고 밝혔다. 또 최근 공개한 텍스트-음성 변환 플랫폼 '보이스 엔진(Voice Engine)'의 생성 오디오 클립에도 변조 방지 워터마크를 선보였다. 

한편 오픈AI는 최근 뉴스 매체와 스톡 미디어 라이브러리, 스택 오버플로우와 같은 커뮤니티를 비롯한 대규모 콘텐츠 소유자와 잇달아 라이선스 계약을 체결하고 있다.

블룸버그에 따르면 오픈AI는 이날 피플(People) 잡지 출판사이자 미국 촤대의 디지털 콘텐츠 및 인쇄 출판사인 도트대시 메러디스와 라이선스 계약을 체결했다.

이를 통해 여러 인기 웹사이트의 라이프스타일 및 엔터테인먼트 콘텐츠으로 AI 모델을 훈련하고 챗봇에 표시할 수 있게 됐다.  계약의 구체적인 조건은 공개하지 않았다.

오픈AI는 지난 4월 파이낸셜타임스와 신문의 요약, 인용문, 링크를 챗GPT에 통합하기로 합의했다고 발표했다. 독일의 악셀 스프링거, 프랑스 신문 르 몽드 및 스페인 언론 대기업 프리사와도 계약을 체결한 바 있다.

[Joyful(approve1515)]

[Joyful(approve1515)]

“새로운 감지기는 사진이 달리로 생성되었는지 여부를 판단한다. 오픈AI는 이미지가 잘리거나 변경되더라도 98%의 정확도를 보인다고 주장했다. 다만 미드저니처럼 다른 AI 모델에서 나온 것을 알아내는 성능은 5~10%에 그친다.“