Peligroso, pero prevenible

[anuncio_1]

SGGP 30/03/2023 07:19

Deepfake es un término que combina los conceptos de deep-learning y fake, una técnica de síntesis de imágenes humanas basada en inteligencia artificial (IA). Los deepfakes pueden superponer la cara de una persona sobre la de otra en un vídeo con un realismo asombroso.

Un caso de trasplante de cara imitando a un famoso actor extranjero

¿Cómo se autoaprende Deepfake?

Desarrollado sobre la plataforma de aprendizaje automático de código abierto de Google, utilizando IA, Deepfake escaneará videos y retratos de una persona, los fusionará con otro video separado y reemplazará detalles faciales como ojos, nariz, boca... con movimientos faciales que sean lo más similares y naturales posible. Con este algoritmo, cuanto más vídeos e imágenes originales haya, más precisa será la IA y más realista será el vídeo falso. Los deepfakes también pueden usar grabaciones de la voz de una persona para entrenar a una computadora para que hable exactamente como esa persona.

La tecnología deepfake es cada vez mejor

Al principio, las aplicaciones de inteligencia artificial Deepfake se crearon para “intercambiar” las caras y las voces de los usuarios por las de personajes de películas famosas. Este se considera el siguiente paso en la tendencia de crear fotos divertidas y doblar clips que causó fiebre hace algún tiempo.

Las empresas que proporcionan software Deepfake afirman que sus aplicaciones no se crean con intenciones maliciosas, sino simplemente con fines de entretenimiento. Sin embargo, debido a que esta tecnología se utiliza para fines más malos, recientemente, cuando se menciona Deepfake, la gente piensa en herramientas malas.

Según el Foro Económico Mundial (FEM), el número de vídeos Deepfake está aumentando a un ritmo del 900% anual. Los recientes avances tecnológicos han facilitado su producción.

Si las personas son suplantadas por Deepfake, deben informar inmediatamente a sus amigos y familiares y notificar a las autoridades a través de: la página de advertencia de seguridad de información de Vietnam: canhbao.ncsc.gov.vn; Proyecto antifraude: chongluadao.vn. La gente crea conciencia sobre el fraude cibernético a través del sitio web: dauhieuluadao.com
Ngo Minh Hieu - Centro Nacional de Monitoreo de Ciberseguridad

Cómo identificar deepfakes

Debido a que el poder computacional de las aplicaciones Deepfake aún no es perfecto, los videos que los utilizan suelen ser de tamaño pequeño, de corta duración y tienen baja calidad de sonido e imagen.

El cuerpo del personaje en Deepfake se mueve menos, especialmente menos hacia los lados, boca arriba o boca abajo en comparación con los videos normales, y no hay acciones de frotarse los ojos o cubrirse la cara, o parpadear porque la IA a menudo maneja los errores cuando la cara está parcialmente cubierta.

Los videos deepfake creados con IA tendrán debilidades como un reflejo de luz desigual en los dos ojos del personaje, sombras de luz poco naturales en la cara, muchas áreas de la cara casi sin cambios, lo que genera expresiones faciales, emociones y voces poco naturales.

Mientras realizan una videollamada, los usuarios pueden pedirle a la persona que llama que levante la mano hacia su cara o gire la cara hacia la izquierda, hacia la derecha… para agregar detección de gestos. Al mismo tiempo, para aumentar la vigilancia, es necesario hablar mucho con la persona que llama para asegurarse de que la llamada sea real y no se trate de un vídeo pregrabado. En particular, hay que prestar atención a la información relacionada con transferencias de dinero, envío de información a direcciones extrañas, cuentas extrañas...

VU NGOC SON

Director de Tecnología, Compañía Nacional de Tecnología de Ciberseguridad de Vietnam

[anuncio_2]
Fuente