Austrália desenvolve ferramenta para expor vozes deepfake falsas

A tecnologia RAIS ajuda a detectar áudio falso com alta precisão, mesmo com a evolução contínua das formas de ataque deepfake.

Austrália desenvolve tecnologia de IA para detectar áudio deepfake com precisão quase absoluta - Foto ilustrativa: REUTERS

Cientistas da Organização de Pesquisa Científica e Industrial da Commonwealth (CSIRO), da Federation University Australia e da RMIT University desenvolveram com sucesso um método para detectar deepfakes de áudio com precisão e adaptabilidade excepcionais.

A nova técnica, chamada Rehearsal with Auxiliary-Informed Sampling (RAIS, na sigla em inglês), foi especificamente projetada para detectar áudio deepfake, uma ameaça crescente no cibercrime, com riscos que incluem burlar sistemas de autenticação biométrica de voz, falsificação de identidade e disseminação de desinformação, afirmou a CSIRO.

As técnicas RAIS não apenas determinam a autenticidade de uma faixa de áudio, mas também garantem a manutenção de um alto desempenho, mesmo com a evolução e as mudanças constantes dos ataques de falsificação.

A Dra. Kristen Moore, coautora do estudo na Data61 - unidade de dados e digital da CSIRO, compartilhou que o objetivo da equipe é desenvolver um sistema de detecção que possa atualizar novas amostras de deepfake sem precisar treinar o modelo do zero, evitando o fenômeno de o modelo esquecer dados antigos durante o ajuste fino.

O RAIS resolve esse problema selecionando e armazenando automaticamente um pequeno conjunto diversificado de deepfakes anteriores, incluindo recursos de áudio ocultos, para ajudar a IA a aprender novos tipos de deepfake, preservando o conhecimento dos antigos, explicou Moore.

Especificamente, o RAIS funciona com base em um processo de seleção inteligente que gera "rótulos auxiliares" para cada amostra de áudio. A combinação desses rótulos auxiliares, em vez de simplesmente classificá-los como "reais" ou "falsos", garante um conjunto de dados de treinamento rico e diversificado. Esse mecanismo melhora significativamente a capacidade do sistema de memorizar e se adaptar ao longo do tempo.

Segundo a CSIRO, durante os testes, o RAIS superou outros métodos com uma taxa de erro média de 1,95% em cinco testes consecutivos. O código-fonte dessa técnica foi disponibilizado no GitHub, um site especializado em armazenamento online de código-fonte baseado na plataforma Git.

Voltar ao assunto

VNA

Fonte: https://tuoitre.vn/uc-phat-trien-cong-cu-vach-tran-giong-noi-gia-bang-deepfake-20251112092232468.htm