Según un corresponsal de VNA en Sídney, la Universidad de Monash y la Policía Federal Australiana (AFP) están colaborando para desarrollar una nueva herramienta revolucionaria de Inteligencia Artificial (IA) para ralentizar y prevenir que los delincuentes creen imágenes deepfake dañinas y material de abuso infantil utilizando IA.
La herramienta, llamada Silverer, es un producto del Laboratorio de IA para la Seguridad Pública y Comunitaria (AiLECS), una colaboración estratégica de investigación entre la Policía Federal Australiana (AFP) y la Universidad de Monash que aplica la IA a complejos desafíos en materia de seguridad y aplicación de la ley. Actualmente en su fase piloto, la herramienta se está desarrollando bajo la dirección de Elizabeth Perry, estudiante de doctorado de la Universidad de Monash.
Según la Universidad de Monash, el proyecto utiliza una técnica denominada «envenenamiento de datos» como técnica principal de esta nueva herramienta. Esta técnica consiste en alterar sutilmente los datos de origen en línea, lo que dificulta considerablemente que los modelos de IA y aprendizaje automático (ML) creen, manipulen y hagan un mal uso de imágenes o vídeos .
Dado que las herramientas de IA requieren grandes cantidades de datos de origen, el envenenamiento de datos provoca que el modelo produzca resultados inexactos, sesgados o corruptos, lo que facilita la detección de imágenes o vídeos falsos creados por delincuentes.
Perry, estudiante de doctorado, explica que los usuarios pueden usar Silverer para editar imágenes antes de subirlas a redes sociales o internet. Esto modifica los píxeles para engañar al modelo de IA, distorsionando la imagen, llenándola de distorsiones o haciéndola completamente irreconocible.
El profesor asociado Campbell Wilson, codirector de AiLECS y experto en informática forense, afirmó que la creación de imágenes falsas y maliciosas utilizando tecnología de código abierto se está convirtiendo en un problema cada vez más grave debido a su facilidad de uso.
La AFP ha documentado un aumento del material de abuso infantil generado por IA, ya que los delincuentes explotan la tecnología para producir y compartir grandes cantidades de pornografía falsa en línea.
La Universidad de Monash afirmó que el objetivo general del proyecto Silverer es desarrollar tecnología fácil de usar para los australianos que desean proteger sus datos personales en las redes sociales. Actualmente se está considerando una versión piloto de la herramienta para uso interno dentro de la Policía Federal Australiana (AFP).
Fuente: https://www.vietnamplus.vn/cong-cu-ai-moi-cua-australia-chong-hinh-anh-deepfake-doc-hai-post1076017.vnp
![Transición de Dong Nai OCOP: [Artículo 3] Vinculación del turismo con el consumo de productos OCOP](https://vphoto.vietnam.vn/thumb/402x226/vietnam/resource/IMAGE/2025/11/10/1762739199309_1324-2740-7_n-162543_981.jpeg)
Kommentar (0)