호주, 가짜 딥페이크 음성 폭로 도구 개발

Úc phát triển công cụ vạch trần giọng nói giả bằng deepfake - Ảnh 1. — 호주, 딥페이크 오디오 거의 절대적 정확도로 감지하는 AI 기술 개발 - 일러스트 사진: REUTERS

호주 연방 과학 산업 연구 기구(CSIRO), 호주 연방 대학, RMIT 대학의 과학자들은 뛰어난 정확도와 적응성으로 오디오 딥페이크를 감지하는 방법을 성공적으로 개발했습니다.

CSIRO에 따르면, RAIS(Rehearsal with Auxiliary-Informed Sampling)라는 새로운 기술은 사이버 범죄에서 점점 더 큰 위협이 되고 있는 딥페이크 오디오를 탐지하기 위해 특별히 고안되었으며, 음성 생체 인증 시스템을 우회하고 사칭하며 잘못된 정보를 퍼뜨리는 등의 위험이 있다고 합니다.

RAIS 기술은 오디오 트랙의 진위 여부를 판별할 뿐만 아니라, 스푸핑 공격이 계속해서 진화하고 변화하는 상황에서도 높은 성능이 유지되도록 보장합니다.

CSIRO의 데이터 및 디지털 부서인 Data61에서 이 연구의 공동 저자인 크리스틴 무어 박사는 팀의 목표는 모델을 처음부터 다시 훈련하지 않고도 새로운 딥페이크 샘플을 업데이트할 수 있는 감지 시스템을 개발하여 미세 조정 중에 모델이 이전 데이터를 잊어버리는 현상을 방지하는 것이라고 밝혔습니다.

무어는 RAIS가 숨겨진 오디오 기능을 포함한 다양한 소규모의 이전 딥페이크 세트를 자동으로 선택하고 저장하여 이 문제를 해결함으로써 AI가 기존 딥페이크 유형에 대한 지식을 보존하는 동시에 새로운 딥페이크 유형을 학습할 수 있도록 돕는다고 설명했습니다.

특히, RAIS는 각 오디오 샘플에 대해 "보조 레이블"을 생성하는 지능형 선택 프로세스를 기반으로 작동합니다. 이러한 보조 레이블을 단순히 "진짜" 또는 "가짜"로 분류하는 대신 결합하여 풍부하고 다양한 학습 데이터 세트를 보장합니다. 이 메커니즘은 시간이 지남에 따라 시스템의 기억 및 적응 능력을 크게 향상시킵니다.

CSIRO에 따르면, RAIS는 5회 연속 테스트에서 평균 오류율 1.95%로 다른 방법보다 우수한 성능을 보였습니다. 이 기술의 소스 코드는 Git 플랫폼 기반 온라인 소스 코드 저장 전문 사이트인 GitHub에서 공개되었습니다.

주제로 돌아가기

VNA

출처: https://tuoitre.vn/uc-phat-trien-cong-cu-vach-tran-giong-noi-gia-bang-deepfake-20251112092232468.htm