https://openai.com/index/expanding-on-how-voice-engine-works-and-our-safety-research/

Just a moment...Just a moment...openai.com


GPT-4o와 같은 옴니모달은 네이티브 오디오 기능을 갖추고 있어 기존의 Voice Engine 모델에서는 불가능했던 새로운 상호 작용을 가능하게 합니다. 하지만 음성 생성을 비롯하여 GPT-4o의 오디오 기능이 여러 새로운 위험을 초래할 수 있다는 점도 인지하고 있습니다. 사회 심리학, 편향 및 공정성, 허위 정보와 같은 다양한 분야에서 알려진 위험과 예측하지 못한 위험을 모두 파악하고 해결하기 위해 GPT-4o에 대한 레드티밍을 적극적으로 수행하고 있습니다. 모델 동작 개선, 기존 텍스트 기반 시스템을 GPT-4o 아키텍처에 맞게 조정, 새로운 분류기 개발과 같은 여러 계층의 완화 조치를 구축하고 있습니다.

Voice Engine 출시에 대한 신중한 접근 방식에 따라 GPT-4o의 오디오 출력을 일반 공개용으로 사전 설정된 음성으로 제한할 예정입니다. 이러한 음성은 신중한 캐스팅 과정을 거쳐 선정된 전문 성우의 음성을 사용했습니다. 향후 발표될 GPT-4o 시스템 카드에서 오디오 관련 위험 및 완화 조치에 대한 자세한 정보를 공유할 예정입니다.


레드티밍 중이라고 함 ㅇㅇ