Deepfake: La tecnología difumina la línea entre lo real y lo falso

Puedes 'decir' cosas que nunca has dicho, 'hacer' cosas que nunca has hecho con sólo una foto. Los deepfakes están difuminando la línea entre lo real y lo falso hasta un grado peligroso.

La tecnología deepfake hace que la línea entre lo real y lo falso se difumine peligrosamente

¿Qué es Deepfake?

Abres tu teléfono y te horrorizas al ver un video viral: tu cara y tu voz dando un discurso polémico en un evento al que nunca asististe. Aunque sabía que no era yo, el vídeo era demasiado real para dudar. Esta no es una película de ciencia ficción, sino un producto de deepfake, una tecnología de inteligencia artificial que puede hacerte “hacer” cosas que nunca has hecho antes.

En una época en la que la verdad y la falsedad se difuminan, los deepfakes son más que mera diversión online. Puede utilizarse para suplantar identidad, difamar, defraudar e incluso amenazar la seguridad personal. Entonces, ¿qué es exactamente un deepfake? ¿Y qué debemos hacer nosotros, los usuarios comunes, para reconocernos y protegernos?

Deepfake es una tecnología que utiliza el aprendizaje profundo, una rama de la inteligencia artificial, para crear imágenes, vídeos o grabaciones de audio falsos que parecen tan realistas que son difíciles de distinguir de la realidad.

Básicamente, el sistema “aprenderá” cientos, incluso miles de fotografías y vídeos originales de una persona, capturando detalles desde su forma de andar y sus expresiones faciales hasta la entonación de la voz. Luego, la IA combina estos movimientos o sonidos con cualquier contenido original, haciendo que el personaje del video o el hablante de la grabación parezcan "decir" palabras que nunca dijeron.

Recientemente, una serie de videos se volvieron virales en YouTube y las redes sociales que muestran a Barron Trump casándose con la Princesa Leonor de España en una lujosa ceremonia. Sin embargo, esto es completamente un producto de inteligencia artificial, creado por el canal “Lovely Trump Family” con fines de entretenimiento.

Aunque estos videos están subtitulados como creados usando IA, aún causan confusión y controversia entre el público.

¿Cómo Deepfake “aprende” tu rostro y tu voz?

Piense en la IA como un pintor súper rápido y un cantante “maestro de la imitación”. Para dibujar tu cara solo hace falta una foto o unos segundos de vídeo:

Aprendizaje facial: la IA observa atentamente cada detalle de la fotografía: la distancia de los ojos, la forma de la nariz y la boca, las arrugas cuando sonríes. Luego, “redibuja” esa cara en otro cuadro, como un artista copia un boceto y agrega color y detalles. El resultado es que tu cara aparece de forma natural en el vídeo original aunque nunca hayas estado allí.

Aprendizaje de voz: la IA te escucha hablar durante unos segundos y recuerda el tono, el ritmo y el timbre. Luego “canta” de nuevo con contenido nuevo, como un cantante de covers, pero mantiene la “calidad” de su voz.

Gracias a eso, con sólo 1-2 fotos y 3-5 segundos de grabación de audio, deepfake puede "imitarte" para crear videos o audio falsos. Esta tecnología es rápida, cómoda y… un poco “mágica”, pero debido a eso es muy fácil abusar de ella para falsificar identidades y difundir información falsa.

¿Qué tan peligroso es el deepfake?

El deepfake no solo tiene como fin la diversión o satisfacer la curiosidad, sino que también plantea numerosos peligros para las personas y la sociedad:

Suplantación de identidad, fraude financiero: los estafadores pueden usar voces falsas para hacerse pasar por jefes o familiares que llaman para solicitar transferencias de dinero urgentes. Con solo unos segundos de grabar su voz real, el teléfono suena exactamente como el "jefe" o los "padres" instando, la víctima es tomada muy fácilmente por sorpresa.

Un claro ejemplo: en 2019, un ejecutivo del Reino Unido fue engañado para que transfiriera 220.000 euros tras recibir una llamada falsa en la que se hacía pasar por el director ejecutivo de su empresa matriz.

Atentado al honor, difamación de personas: Los vídeos de rostros superpuestos en escenas sensibles (películas pornográficas, escenas violentas, etc.) pueden volverse virales, provocando graves daños psíquicos y reputacionales a las personas que aparecen en los vídeos. Una vez en línea, estos videos son muy difíciles de eliminar por completo, incluso si se demuestra que son falsos.

Difundir noticias falsas, manipular la opinión pública: en un contexto político delicado, los videos deepfake de líderes que dicen cosas que nunca dijeron pueden causar confusión y pérdida de confianza en los medios y el gobierno.

Amenaza a la seguridad personal y nacional: con tecnología suficientemente sofisticada, los malos pueden difundir videos deepfake sobre emergencias falsas (como guerras, desastres), incitando al pánico y al caos social. Las agencias de seguridad también enfrentan un gran desafío a la hora de distinguir entre información de inteligencia peligrosa, real y falsa.

Si bien los deepfakes abren muchas oportunidades para el entretenimiento y la creatividad, también se convierten en "armas" sofisticadas que requieren que tanto los individuos como las autoridades estén atentos. En el siguiente apartado aprenderemos cómo protegernos de este peligro.

¿Cómo protegerse de los deepfakes?

Si bien es imposible evitar por completo el riesgo de ser blanco de deepfakes, aún puedes minimizarlo de algunas maneras simples pero efectivas:

Limite compartir fotos y vídeos personales públicamente: cuantos más datos faciales y de voz publique en las redes sociales, más material tendrá la IA para crear deepfakes. Mantenlo privado y piensa antes de publicar.

Cuidado con llamadas y vídeos sospechosos: Si recibes una llamada o un vídeo de alguien conocido pero con contenido inusual (como una solicitud de transferencia de dinero, afirmaciones extrañas, etc.), no lo creas. Por favor verificar llamando directamente o enviando mensaje de texto a través de otro canal.

Utilice herramientas de detección de deepfakes: varias plataformas y empresas de seguridad han desarrollado herramientas para verificar imágenes y videos en busca de señales de interferencia de IA. Si bien no son perfectos, son un primer paso útil para comprender.

Mantén tu huella digital segura: No compartas grabaciones de voz o vídeos con tu cara en entornos no controlados (como chatbots extraños o aplicaciones de origen desconocido). También se puede extraer una breve grabación de audio para hacerse pasar por usted.

Manténte informado y alerta: no te asustes, pero entiende: los deepfakes han ido más allá de la tecnología del entretenimiento. Por favor comparta este conocimiento con sus seres queridos, especialmente con los ancianos y los niños, grupos que son fácilmente engañados por contenido que parece "real".

No puedes detener el avance de la IA, pero sí puedes protegerte mediante concienciación, vigilancia y proactividad. En un mundo donde la verdad y la falsedad están a sólo unos clics de distancia, el conocimiento es el mejor escudo.

Gracias por su ayuda

Fuente: https://tuoitre.vn/deepfake-cong-nghe-lam-mo-ranh-gioi-that-gia-20250528100957532.htm