Australia desarrolla una herramienta para detectar voces falsas generadas por deepfake.

La tecnología RAIS ayuda a detectar audio falso con alta precisión, incluso a medida que las formas de ataque deepfake continúan evolucionando.

Australia desarrolla tecnología de IA para detectar audio deepfake con una precisión casi absoluta - Foto ilustrativa: REUTERS

Científicos de la Organización de Investigación Científica e Industrial de la Commonwealth (CSIRO), la Universidad Federation de Australia y la Universidad RMIT han desarrollado con éxito un método para detectar deepfakes de audio con una precisión y adaptabilidad excepcionales.

La nueva técnica, llamada Reheal with Auxiliary-Informed Sampling (RAIS), está diseñada específicamente para detectar audio deepfake, una amenaza creciente en el cibercrimen, con riesgos que incluyen eludir los sistemas de autenticación biométrica de voz, la suplantación de identidad y la difusión de desinformación, dijo CSIRO.

Las técnicas RAIS no solo determinan la autenticidad de una pista de audio, sino que también garantizan que se mantenga un alto rendimiento, incluso a medida que los ataques de suplantación continúan evolucionando y cambiando.

La Dra. Kristen Moore, coautora del estudio en Data61, la unidad de datos y digitalización de CSIRO, compartió que el objetivo del equipo es desarrollar un sistema de detección que pueda actualizar nuevas muestras de deepfake sin tener que volver a entrenar el modelo desde cero, evitando así el fenómeno de que el modelo olvide los datos antiguos durante el ajuste fino.

RAIS resuelve este problema seleccionando y almacenando automáticamente un pequeño y diverso conjunto de deepfakes anteriores, incluyendo características de audio ocultas, para ayudar a la IA a aprender nuevos tipos de deepfakes mientras conserva el conocimiento de los antiguos, explicó Moore.

En concreto, RAIS funciona mediante un proceso de selección inteligente que genera «etiquetas auxiliares» para cada muestra de audio. La combinación de estas etiquetas, en lugar de clasificarlas simplemente como «reales» o «falsas», garantiza un conjunto de datos de entrenamiento rico y diverso. Este mecanismo mejora significativamente la capacidad del sistema para recordar y adaptarse con el tiempo.

Según CSIRO, durante las pruebas, RAIS superó a otros métodos con una tasa de error promedio del 1,95 % en cinco pruebas consecutivas. El código fuente de esta técnica está disponible en GitHub, un sitio especializado en el almacenamiento en línea de código fuente basado en la plataforma Git.

Volver al tema

VNA

Fuente: https://tuoitre.vn/uc-phat-trien-cong-cu-vach-tran-giong-noi-gia-bang-deepfake-20251112092232468.htm