OpenAI, 15초 오디오 샘플 기반 음성 복제 도구 출시

업데이트 날짜: 2024년 3월 31일 05:42:42

"음성 엔진"에 대한 소규모 테스트 결과를 공유하는 OpenAI 블로그 게시물에 따르면, 이 도구는 기본적으로 15초 분량의 오디오 샘플을 기반으로 누군가의 음성을 복제할 수 있습니다.

사진: 오픈AI

OpenAI가 음성 복제 도구를 공개했지만, 청취자를 속이는 오디오 가짜 행위를 방지하기 위한 안전장치가 마련될 때까지는 엄격한 통제가 유지될 것입니다.

OpenAI는 음성 생성이 심각한 위험을 초래한다는 것을 인정합니다. 특히 선거가 있는 해에는 더욱 그렇습니다. 하지만 회사 측은 정부, 미디어, 엔터테인먼트, 교육 , 시민 사회 및 기타 분야의 국내 및 국제 파트너와 협력하여 피드백을 수집하여 이 도구를 안전하게 구축하고 개발하고 있다고 밝혔습니다.

OpenAI는 Voice Engine에서 생성된 모든 오디오의 출처를 표시하고 도구 사용 방식을 적극적으로 모니터링하는 등 일련의 안전 조치를 시행했다고 밝혔습니다.

허위 정보 연구자들은 음성 복제 도구가 점점 저렴해지고, 사용하기 쉬워지고, 추적하기 어려워짐에 따라, 중요한 선거 연도에 AI 기반 앱이 대량으로 남용될 위험이 있다는 점에 대해 우려하고 있습니다.

한 가지 예는 미네소타 의원 딘 필립스의 로비스트가 AI가 생성한 통화인데, 마치 조 바이든 대통령이 2024년 1월에 치러지는 뉴햄프셔 예비선거에서 투표하지 말라고 국민들에게 촉구하는 것 같은 내용입니다.

이 사건으로 인해 전문가들은 2024년 백악관 선거와 올해의 다른 주요 세계 선거에서 AI가 생성한 딥페이크(가짜 오디오 또는 비디오 ) 허위 정보가 급증할 것에 대한 우려를 표명했습니다.

VNA/NDO에 따르면

원천: https://baodongthap.vn/cong-nghe/openai-ra-mat-cong-cu-nhan-ban-giong-noi-tren-mau-am-thanh-15-giay-121221.aspx