오픈AI와 저널리즘



우리는 뉴스기관의 파트너, 저널리즘을 지원합니다.


그리고 뉴욕타임즈의 법적 분쟁은 쓸모없다고 믿습니다.



우리의 목표는 미해결 문제를 해결할 수 있도록 지원하는 AI 도구를 개발하는 것입니다. 이미 전 세계 사람들이 일상생활을 개선하기 위해 우리의 기술을 사용하고 있습니다. 수백만 명의 개발자와 포춘 500대 기업의 92% 이상이 현재 우리제품을 사용하고 있습니다.


뉴욕타임스의 주장에 동의하지 않지만, 이번 소송을 통해 당사의 비즈니스와 의도, 기술 구축 방식을 명확히 밝힐 수 있는 기회로 삼고 있습니다. 저희의 입장은 아래 네 가지로 요약할 수 있습니다:


1. 언론사와 협력하며 새로운 기회를 창출하고 있습니다.


2. 학습(Training)은 합법적으로 하고있습니다. 하지만 그럴 필요가 있다면, 정보주체의 동의 없이 트레이닝을 할 수도 있습니다. 물론 정보주체가 요청한다면 정보주체와 관련된 트레이닝을 멈출수도 있습니다.(=opt out)


3. 학습내용이 그대로 출력되는것은(Regurgitation)은 거의 발생하지 않는 오류입니다. 우리는 이러한 일이 일어나지 않게 하려고 노력하고 있습니다.


4. 뉴욕타임스는 이야기 전체가 아닌 일부를 이야기하고 있습니다.



1. 언론사와 협력하며 새로운 기회를 창출하고 있습니다.




저희는 뉴스 조직을 지원하기 위해 기술 설계 프로세스에서 많은 노력을 기울이고 있습니다.



수십 개의 언론사뿐만 아니라 뉴스/미디어 연합과 같은 주요 업계 단체를 만나 기회를 모색하고, 우려 사항을 논의하고, 해결책을 제시했습니다. 저희는 배우고, 교육하고, 피드백을 듣고, 적응하는 것을 목표로 합니다. 우리의 목표는 건강한 뉴스 생태계를 지원하고, 좋은 파트너가 되며, 상호 이익이 되는 기회를 창출하는 것입니다. 이를 염두에 두고 이러한 목표를 달성하기 위해 뉴스 조직과의 파트너십을 추구해 왔습니다:


방대한 양의 공공 기록 분석 및 기사 번역과 같이 시간이 많이 소요되는 작업을 지원하여 기자와 편집자에게 혜택을 주고 지원하기 위해 제품을 배포합니다.


공개되지 않은 새로운 역사적 콘텐츠에 대한 학습을 통해 AI 모델에 세계에 대한 정보를 학습시킵니다.


실시간 콘텐츠에 ChatGPT가 일부 작성했다는 표시를 남겨, 뉴스와 독자가 소통할 수 있는 새로운 방법을 제공합니다.


AP 통신, 악셀 스프링거, 아메리칸 저널리즘 프로젝트, 뉴욕대학교와의 초기 파트너십을 통해 이러한 접근 방식을 엿볼 수 있습니다.



2. 학습(Training)은 합법적으로 하고있습니다. 하지만 그럴 필요가 있다면, 정보주체의 동의 없이 트레이닝을 할 수도 있습니다. 물론 정보주체가 요청한다면, 정보주체와 관련된 학습을 멈춥니다.(=opt out)


공개적으로 이용 가능한 인터넷 자료를 사용하여 AI 모델을 학습시키는 것은 합법적 사용에 해당하며, 이는 오랫동안 널리 인정된 판례에 의해 뒷받침됩니다. 이러한 원칙은 크리에이터에게 공정하고, 혁신가에게 필요하며, 미국의 경쟁력에 매우 중요하다고 생각합니다.



최근 미국 저작권청에 의견을 제출한 다양한 학계, 도서관 협회, 시민단체, 스타트업, 미국의 주요 기업, 크리에이터, 작가 등이 AI 모델 학습이 합법적으로 허용된다는 원칙을 지지하고 있습니다. 유럽연합, 일본, 싱가포르, 이스라엘을 비롯한 다른 지역과 국가에서도 저작권이 있는 콘텐츠에 대한 학습 모델을 허용하는 법률이 있으며, 이는 AI 혁신, 발전 및 투자에 유리합니다.



물론 이러한 법적인 권리도 중요합니다. 하지만 우리는 좋은 시민으로 남는것이 훨씬 더 중요합니다. 우리가 AI산업을 주도한 방식은 opt-out시스템(정보제공 하기 싫으면 우리에게 이야기해라)입니다. 이 방식을 쓰면 오픈AI는 특정 사이트의 정보는 학습대상에서 제외됩니다. 뉴욕타임즈는 2023년 8월에 opt-out을 요청했습니다.


3. 학습내용이 그대로 출력되는것은(Regurgitation)은 거의 발생하지 않는 오류입니다. 우리는 이러한 일이 일어나지 않게 하려고 노력하고 있습니다.



우리의 모델은 새로운 문제에 적용하기 위해 개념을 학습하도록 설계되고 훈련되었습니다.



암기는 학습 과정에서 드물게 발생하지만, 학습 데이터에 특정 콘텐츠가 두 번 이상 나타나는 경우(예: 여러 공개 웹사이트에 해당 콘텐츠의 일부가 나타나는 경우)가 더 흔합니다. 따라서 의도치 않은 암기를 제한하고, 모델이 학습내용을 그대로 출력하는것을 방지하기 위한 조치를 마련했습니다. 또한 사용자가 책임감 있게 행동할 것을 기대합니다. 의도적으로 모델을 조작하여 학습내용을 뽑아내는것은 적절한 기술 사용이 아니며 사용 약관에 위배됩니다.


인간이 새로운 문제를 해결하는 방법을 배우기 위해 폭넓은 교육을 받는 것처럼, 저희는 AI 모델이 모든 언어, 문화, 산업을 포함한 전 세계의 다양한 정보를 관찰할 수 있기를 바랍니다. 모델은 방대한 인간 지식의 집합체에서 학습하기 때문에 뉴스를 포함한 특정 분야는 전체 학습 데이터의 극히 일부분에 불과하며, 뉴욕타임스를 포함한 단일 데이터 소스는 모델의 의도된 학습에 중요하지 않습니다.



4. 뉴욕타임스는 이야기 전체가 아닌 일부를 이야기하고 있습니다.


12월 19일에 있었던 마지막 커뮤니케이션을 통해 뉴욕 타임즈와의 논의가 건설적으로 진행되고 있는 것으로 보였습니다. 이 협상은 ChatGPT가 기사 작성에 기여했음을 알리는 실시간 표시와 관련된 높은 가치의 파트너십에 초점을 맞추었으며, 이를 통해 뉴욕타임즈는 기존 및 신규 독자와 소통할 수 있는 새로운 방법을 얻고, 저희 사용자들은 뉴욕타임즈의 보도에 액세스할 수 있게 되었습니다. 하지만 다른 단일 소스와 마찬가지로 뉴욕타임즈의 콘텐츠는 기존 모델의 학습에 의미 있는 기여를 하지 못했으며 향후 학습에도 충분한 영향을 미치지 못할 것이라고 설명했습니다. 뉴욕 타임즈를 통해 알게 된 12월 27일의 소송 소식은 놀라움과 실망감을 안겨주었습니다.



그 과정에서 일부 콘텐츠가 그대로 출력되는 현상을 목격했다고 언급했지만, 문제를 조사하고 수정하겠다는 약속에도 불구하고 사례를 공유하지 않으려는 태도를 반복했습니다. 지난 7월에는 의도하지 않은 방식으로 실시간 콘텐츠를 재생산할 수 있다는 사실을 알게 된 직후 ChatGPT 기능을 삭제하는 등 이 문제를 얼마나 중요하게 생각하는지 보여드렸습니다.



흥미롭게도 뉴욕타임스가 제시한 이러한 현상은 여러 타사 웹사이트에 퍼져 있는 수년 전 기사에서 나온 것으로 보입니다. 그들은 모델이 역류하도록 하기 위해 종종 긴 기사 발췌문을 포함한 프롬프트를 의도적으로 조작한 것으로 보입니다. 이러한 프롬프트를 사용할 때에도 우리 모델은 일반적으로 뉴욕 타임즈가 암시하는 방식으로 작동하지 않는데, 이는 그들이 모델에게 학습내용이 그대로 나오도록 지시했거나 여러 시도에서 예시를 골라낸 것임을 시사합니다.



이들의 주장에도 불구하고 이러한 오남용은 일반적인 사용자 활동이나 허용된 사용자 활동이 아니며, 뉴욕타임스를 대신할 수 없습니다. 그럼에도 불구하고 저희는 학습내용이 그대로 출력되게 하려는 공격에 대한 시스템의 저항력을 지속적으로 강화하고 있으며, 최근 모델에서 이미 많은 진전을 이루었습니다.



저희는 뉴욕타임스의 소송이 실익이 없다고 생각합니다. 그럼에도 불구하고 우리는 뉴욕 타임즈와의 건설적인 파트너십을 희망하며, 60여 년 전 최초로 작동하는 신경망을 보도하고 수정헌법 제1조의 자유를 옹호하는 등 오랜 역사를 가진 뉴욕 타임즈의 업적을 존중합니다.



앞으로도 언론사와의 지속적인 협력을 통해 AI의 혁신적 잠재력을 실현함으로써 양질의 저널리즘을 생산할 수 있는 능력을 향상시킬 수 있기를 기대합니다.


//


a. 결론


법을 좆도 모르는 뉴욕타임즈 병신들아. 기사도 더럽게 못쓰면서 왜 소송으로 우리 일을 방해함?


b. 핵심개념


1. fair use


미국법에 있는 개념으로 어떤 자료들을 허락없이 쓰는 것을 보장함(어떤 자료에 news도 포함됨).


인공지능 학습은 fair use에 속한다는 것을 미국 법원이 분명히 했음. 나중에 어떻게 바뀔지는 모름.


2. opt out


정보 이용 동의는 본래 사전에 받아야 하는 것(opt in)이지만,


opt out은 일단 수집하고 나중에 정보 주체가 이를 거부할 경우 수집을 중단하는 개념임.


뉴욕타임즈는 2023년 8월에 opt out을 요청함.


인공지능이 학습할 수 있는 정보는 방대하기 때문에, 일일이 사전에 동의를 받으려면 비용과 시간이 막대하게 들어감.