[📺뉴스] WSJ) 오픈AI, 15초 오디오 샘플로 목소리 복제하는 기술 공개

[조선닌자핫토리(ninetail)]

https://apple.news/AGthgUkQwR3qxEnCKR9f4QQ

OpenAI Reveals Audio Feature That Clones Human Voices — The Wall Street Journal

[Claude3 Opus를 이용한 내용 정리]

분류: 인공지능, 테크

국가: 미국

키워드: OpenAI, 음성 모방, Voice Engine, 오남용 위험, 선거 관련 위험

전망: 중립적 전망 

AI 음성 모방 기술은 잠재력이 크지만, 오남용 가능성도 우려됨.

요약:

OpenAI, Voice Engine이라는 AI 음성 모방 기술 공개

15초 음성 샘플로 목소리 복제 및 문장 읽기 가능

기술 오남용 우려로 제한된 고객에게만 제공 중

선거 관련 허위정보 유포 등에 악용될 수 있어 주의 필요

은행 음성인증 우회 등 범죄에 악용될 가능성 경고

신문기사 신뢰도 분석: 

이 기사는 신뢰할 만한 정보를 제공하고 있습니다. 기사의 출처인 Wall Street Journal은 신뢰할 수 있는 언론사로 알려져 있습니다. 또한 OpenAI에서 직접 발표한 내용을 인용하고 있어 정보의 정확성이 높습니다. 다만 Voice Engine의 기술적 한계나 구체적인 성능에 대한 정보는 다소 부족한 면이 있습니다.

# OpenAI, 사람의 목소리를 복제하는 오디오 기능 공개

금요일 OpenAI는 15초 분량의 영상에서 사람의 목소리를 재현할 수 있는 기술을 선보였지만, 오용의 잠재적 위험에 대해 더 많이 알기 전까지는 공개하지 않겠다고 밝혔습니다.

이 프로그램인 보이스 엔진은 짧은 녹음에서 AI가 생성한 사람의 목소리 버전을 만들어 텍스트를 소리 내어 읽을 수 있습니다. 음성 엔진은 원본 샘플이 영어로 제공되더라도 외국어로 사람의 목소리를 재현할 수 있다고 OpenAI는 밝혔습니다.

이 스타트업은 2023년 말부터 제한된 고객 그룹과 협력하여 이 기술을 테스트해 왔다고 밝혔다. 이러한 테스트에서 음성 엔진은 어린이에게 읽기 지원을 제공하고, 콘텐츠를 다른 언어로 번역하고, 말을 할 수 없는 사람들을 위한 음성을 생성하는 데 사용되었습니다.

특히 선거가 있는 해에 복제된 목소리를 생성하는 것과 관련된 잠재적 위험이 이 기술에 대한 접근을 제한하기로 한 결정의 일부라고 회사는 말했습니다.

생성 인공 지능 기술로 인해 사람들을 속이는 것이 더 쉬워졌습니다. 선거 관리자들은 2024년이 AI 생성 허위 정보에 광범위하게 맞설 준비를 하고 있는 첫 번째 선거 주기라고 말했습니다. 연구자들과 미국 관리들에 따르면 유권자들은 이미 AI를 이용한 허위 정보를 접하고 있습니다.

미국 대통령 선거의 초기 사례 중 하나로, 지난 1월에 약 5,000~25,000건의 로보콜이 뉴햄프셔 주민들에게 며칠 앞으로 다가온 주 대선 예비선거에 투표하지 말라는 메시지를 보냈습니다.

"여러분의 투표가 이번 화요일이 아니라 11월에 변화를 가져옵니다."라고 통화 중 음성이 나왔습니다. 보안업체 핀드롭의 분석에 따르면 이 목소리는 바이든 대통령처럼 들리지만 AI가 만든 것이라고 합니다. 이 메시지는 또한 무소속 유권자들이 공화당 예비선거에 참여하지 못하도록 막았습니다. 뉴햄프셔 주 법무장관실은 나중에 텍사스에 본사를 둔 한 회사가 이 전화의 발신처임을 확인했다고 밝혔습니다.

음성 엔진은 2022년 OpenAI가 처음 개발했으며, ChatGPT 및 기타 프로그램의 음성을 제공하는 데 사용되었습니다.

또한 OpenAI는 2월에 공개한 텍스트-비디오 프로그램인 Sora에 대한 일반인의 접근을 제한했습니다. 소라는 추가 연구를 위해 일부 연구자 및 학자 그룹과 공유되었습니다.

음성 엔진의 기능 미리보기는 기관과 대중이 기만적인 AI 관행에 대한 경각심을 갖도록 장려하기 위한 것이라고 OpenAI는 밝혔습니다. 범죄자들이 가짜 음성을 사용해 사람들의 개인 정보에 접근하거나 은행의 음성 기반 보안 인증과 같은 보안 조치를 우회할 수 있다고 경고했습니다.

"궁극적으로 우리가 이 기술을 널리 배포하든 그렇지 않든, 전 세계 사람들이 이 기술이 어디로 향하고 있는지 이해하는 것이 중요합니다."라고 이 회사는 말했습니다.

진저 아담스 오티스에게 이메일 보내기 [e-mail]