Los deepfakes se han convertido en una preocupación importante a medida que el número de estafas basadas en tecnología continúa aumentando.
Después de investigar en foros de Darknet, donde suelen operar los ciberdelincuentes, los expertos en seguridad descubrieron que había tantos delincuentes que usaban Deepfake para cometer fraudes que la demanda superaba con creces la oferta de software Deepfake actualmente en el mercado.
Como la demanda supera la oferta, los expertos de Kaspersky predicen que la cantidad de estafas Deepfake aumentará, con formas más diversas y sofisticadas: desde proporcionar un video de suplantación de identidad de alta calidad hasta usar imágenes de celebridades en transmisiones en vivo falsas en las redes sociales, prometiendo pagar el doble de la cantidad que la víctima les envió.
Según el sistema de referencia de información Regula, el 37% de las empresas en todo el mundo han sufrido fraudes de voz Deepfake y el 29% han sido víctimas de vídeos Deepfake.
Esta tecnología se ha convertido en una amenaza para la ciberseguridad en Vietnam, donde los ciberdelincuentes suelen utilizar videollamadas falsas para hacerse pasar por personas y pedir dinero prestado a sus familiares y amigos.
Una videollamada Deepfake puede durar solo un minuto, lo que dificulta que las víctimas distingan entre lo real y lo falso.
Deepfake se está convirtiendo poco a poco en una “pesadilla” dentro de las sofisticadas estafas en línea.
Los deepfakes se están convirtiendo en una pesadilla para las mujeres y la sociedad. Los ciberdelincuentes están explotando la inteligencia artificial (IA) para superponer los rostros de las víctimas en fotos y vídeos pornográficos, así como en campañas de propaganda.
“Estos formularios tienen como objetivo manipular la opinión pública difundiendo información falsa, e incluso dañando la reputación de organizaciones o individuos”, dijo la Sra. Vo Duong Tu Diem, directora regional de Kaspersky en Vietnam.
Si bien los delincuentes están abusando de la IA con fines maliciosos, las personas y las empresas aún pueden usar la inteligencia artificial para identificar deepfakes, lo que reduce la probabilidad de éxito de las estafas.
En consecuencia, los usuarios tendrán algunas soluciones útiles para protegerse de las estafas, como el uso de software de detección de contenido generado por IA (que utiliza algoritmos avanzados para analizar y determinar el nivel de edición de imágenes/videos/audio).
Para los videos deepfake, existen herramientas que pueden detectar movimientos bucales y habla discordantes. Algunos programas incluso son lo suficientemente potentes como para detectar el flujo sanguíneo anormal bajo la piel analizando la resolución del video, ya que cuando el corazón bombea sangre, las venas humanas cambian de color.
Además, existe una marca de agua que actúa como marca de identificación en imágenes, vídeos, etc., para ayudar a los autores a proteger los derechos de autor de los productos de IA. Esta función puede convertirse en un arma contra el deepfake, ya que permite rastrear el origen de la plataforma que crea la inteligencia artificial. Los usuarios con conocimientos tecnológicos pueden encontrar una manera de rastrear el origen del contenido y comparar cómo la IA ha editado los datos originales.
Actualmente, algunas tecnologías emergentes utilizan algoritmos criptográficos para insertar valores hash en el video a intervalos de tiempo determinados. Si el video ha sido editado, el valor hash cambiará y, a partir de ahí, los usuarios podrán verificar si el contenido ha sido manipulado.
Ha habido algunos tutoriales en el pasado sobre cómo encontrar anomalías en videos, como desviaciones de color, movimientos musculares antinaturales, movimientos oculares, etc. Sin embargo, la IA se está volviendo más inteligente, por lo que estos valores no siempre dan resultados correctos.
El proceso de verificar la confiabilidad de los vídeos ya no se basa en la simple vista sino que requiere de herramientas tecnológicas que nacen con el propósito de prevenir y detectar contenidos falsos.
Khanh Linh
[anuncio_2]
Fuente
Kommentar (0)