완벽하게 인간의 목소리를 복제할 수 있다 가정하면
녹음이나 동영상 같은건 더 이상 법정 증거로 채택될 수 없고
가족이나 지인한테 갑자기 통화왔는데 알고보니
텍스트를 입력한대로 바로바로 보이스를 내주는 ai 프로그램이었던고임;; 보이스피싱 씹상위버전+온갖 사기가 판칠듯
어떤 제약이 걸린채로 나올까?
제약이 있다 해도 특이점이 오면 그 제약을 유지할 수 있을까?
녹음이나 동영상 같은건 더 이상 법정 증거로 채택될 수 없고
가족이나 지인한테 갑자기 통화왔는데 알고보니
텍스트를 입력한대로 바로바로 보이스를 내주는 ai 프로그램이었던고임;; 보이스피싱 씹상위버전+온갖 사기가 판칠듯
어떤 제약이 걸린채로 나올까?
제약이 있다 해도 특이점이 오면 그 제약을 유지할 수 있을까?
일단 내가 보기에는 님이 생각할 문젠 아닌거같음
그럼 여기 특갤에 뭐하러 있는데 십년아
그곳에 특갤이 있으니깐
음성ai뿐만 아니라 딥페이크든 그림이든 ai관련 기술로는 항상 말 나왔는데 새삼스러울건 없지 음성ai도 보이스 엔진 이전에 일레븐랩스든 깃허브 ai툴들이든 이미 있었고
ㅇㅎ
뭔 ㅋㅋㅋㅋ 새로나온 존나 획기적인 기술도 아니고 옛날 기술이라고 욕먹었는데 ㅋㅋ 이미 비슷한거 존나 많이 있음 걍 뒷북임
ㅇㅇ 문제 맞음. 근데 보이스 엔진이 갑툭튀 해서 문제 되는 건 아니고, 이미 이전부터 TTS 모델들이 입력 오디오랑 비슷하게 말하는 건 있어왔음. 구리긴 해도, 예전에 유명인들이 유튜브에서 투자사기하는 영상 만든 것도 TTS 모델들임. 오디오는 이제 몇초 분량만 있어도 비슷하게 만들수 있음. 물론 좀 구리긴 해도. 영상도 그렇게 될 거고..... 뭐 당연히 문제는 될텐데, 이득이 많아서 AI 금지! 이러진 않을거고 대책을 찾으려고 하겠지.
안나와. 이미 그걸로 정치권에서 말나옴. 나와도 워터마크 찍는다고 하는데 뭘로 찍어? 데이터 편집하면 그만인데? 미국에서도 법적으로 금지하는 주 있음.
특히나 오픈AI에서 나오면 대중성이 확보대는건데 정치, 연예인, 일반이 할 거 없이 개판됨
이미 음성ai는 나온지 오래됐다. 음성하나로 믿는 놈들은 사기 당한 사례도 있지. 이제 대중들이 하나의 소스만 믿는게 아니라 교차검증을 해야한다는 걸 배우고 있다.