L'Australie développe un outil pour détecter les voix truquées (deepfakes)

La technologie RAIS permet de détecter les faux enregistrements audio avec une grande précision, même si les formes d'attaques deepfake continuent d'évoluer.

L'Australie développe une technologie d'IA capable de détecter les deepfakes audio avec une précision quasi absolue - Photo d'illustration : REUTERS

Des scientifiques de l'Organisation de recherche scientifique et industrielle du Commonwealth (CSIRO), de l'Université de la Fédération d'Australie et de l'Université RMIT ont mis au point avec succès une méthode permettant de détecter les deepfakes audio avec une précision et une adaptabilité exceptionnelles.

La nouvelle technique, appelée Rehearsal with Auxiliary-Informed Sampling (RAIS), est spécifiquement conçue pour détecter les deepfakes audio, une menace croissante dans la cybercriminalité, avec des risques incluant le contournement des systèmes d'authentification biométrique vocale, l'usurpation d'identité et la diffusion de fausses informations, a déclaré le CSIRO.

Les techniques RAIS permettent non seulement de déterminer l'authenticité d'une piste audio, mais aussi de garantir le maintien de performances élevées, même face à l'évolution et à la transformation constantes des attaques par usurpation d'identité.

Le Dr Kristen Moore, co-auteure de l'étude chez Data61, l'unité de données et de numérique du CSIRO, a expliqué que l'objectif de l'équipe est de développer un système de détection capable de mettre à jour de nouveaux exemples de deepfake sans avoir à réentraîner le modèle à partir de zéro, évitant ainsi le phénomène d'oubli des anciennes données par le modèle lors du réglage fin.

RAIS résout ce problème en sélectionnant et en stockant automatiquement un petit ensemble diversifié de deepfakes antérieurs, y compris des caractéristiques audio cachées, afin d'aider l'IA à apprendre de nouveaux types de deepfakes tout en préservant la connaissance des anciens, a expliqué Moore.

Plus précisément, RAIS fonctionne grâce à un processus de sélection intelligent qui génère des « étiquettes auxiliaires » pour chaque échantillon audio. La combinaison de ces étiquettes, plutôt que leur simple catégorisation en « réel » ou « faux », garantit un ensemble de données d’entraînement riche et diversifié. Ce mécanisme améliore considérablement la capacité du système à mémoriser et à s’adapter au fil du temps.

D'après le CSIRO, lors des tests, RAIS a surpassé les autres méthodes avec un taux d'erreur moyen de 1,95 % sur cinq tests consécutifs. Le code source de cette technique est disponible sur GitHub, une plateforme de stockage de code source en ligne basée sur Git.

Retour au sujet

VNA

Source : https://tuoitre.vn/uc-phat-trien-cong-cu-vach-tran-giong-noi-gia-bang-deepfake-20251112092232468.htm