La dualidad de la IA

La inteligencia artificial (IA) abre muchas oportunidades, pero también se convierte en una herramienta peligrosa cuando se explota para crear vídeos deepfake falsos que distorsionan la imagen de la policía y el gobierno, e incitan a la opinión pública. Estos vídeos, editados con sofisticación, no solo erosionan la confianza en las autoridades, sino que también constituyen una forma sofisticada de guerra psicológica en el ciberespacio.

Es hora de que cada usuario se convierta en un "escudo digital", estando alerta, vigilante y responsable con cada clic y acción compartida.

Los beneficios y la delgada línea de la IA

Nunca antes la inteligencia artificial había estado tan cerca de la vida cotidiana. Con solo unos clics y un breve comando, podemos crear voces, imágenes e incluso vídeos con un realismo asombroso. La IA ahorra tiempo, reduce los costes de producción de contenido y marca el comienzo de una era de medios digitales flexibles.

Sin embargo, esta misma capacidad de "simular la realidad de forma realista" se ha convertido en un arma de doble filo. Recientemente, las redes sociales se han visto inundadas de vídeos creados con tecnología deepfake, en los que se manipulan y distorsionan los rostros de jefes policiales e imágenes de agentes del orden en casos delicados con voces en off para engañar y dividir a la opinión pública.

Imágenes escenificadas como estas son cada vez más comunes en las redes sociales.

En un vídeo viral de TikTok, se yuxtaponían imágenes de un agente de la policía de tránsito en servicio con diálogos ofensivos, acompañados de la etiqueta "multas solo para presumir", lo que insinuaba que el agente abusaba de su poder para beneficio propio. Muchos usuarios, especialmente jóvenes, creyeron fácilmente este contenido debido al realismo visual y a la similitud de la voz con los movimientos de los labios, lo que dificultaba enormemente distinguir entre lo real y lo falso.

Simplemente por querer presumir de sus habilidades en IA, un joven YouTuber de Dien Bien ha pagado el precio con una multa administrativa y una disculpa pública forzada. La tarde del 24 de enero, la Policía Provincial de Dien Bien anunció que el Departamento de Ciberseguridad y Prevención de Delitos de Alta Tecnología había impuesto una multa administrativa de 7,5 millones de VND a Tong Van T. (nacido en 2001, residente en el distrito de Muong Ang) por usar IA para crear un video inventado con contenido distorsionado e insultante sobre agentes de la policía de tránsito.

En concreto, el 7 de enero, T. subió un vídeo de más de 3 minutos a su cuenta de YouTube "Tuyen Vlog" con el impactante título: "Mientras estaba de paseo, me persiguió la policía de tráfico". En el vídeo, las imágenes y situaciones se escenificaron mediante tecnología de inteligencia artificial, simulando a la policía de tráfico persiguiendo a ciudadanos, y se combinaron con efectos y comentarios ofensivos y difamatorios hacia las fuerzas del orden.

En colaboración con la policía, T. admitió que todo el contenido del vídeo era un producto fabricado con fines de "entretenimiento" y para demostrar su capacidad para usar tecnología de inteligencia artificial. Además de la multa, las autoridades ordenaron a T. que eliminara el vídeo falso y se disculpara públicamente con la policía de tránsito en su canal personal de YouTube.

En la era de la revolución digital , especialmente el rápido desarrollo de la inteligencia artificial, fuerzas hostiles y reaccionarias no han dudado en explotar esta herramienta para crear imágenes e historias inventadas con el objetivo de distorsionar y manchar la imagen de la Policía Popular de Vietnam. Una foto que circuló recientemente en redes sociales, que muestra a una mujer embarazada con uniforme de policía siendo amenazada por dos hombres con apariencia de gánster, es una clara evidencia de esta táctica.

La imagen, creada mediante inteligencia artificial, se ha vuelto viral recientemente en las redes sociales.

A primera vista, los espectadores podrían confundir esto fácilmente con una escena real, acompañada de titulares sensacionalistas como: "Un niño pobre salva a una policía embarazada que estaba siendo atacada por gánsteres, destapando sin saberlo un caso que conmociona a todo el país...". Sin embargo, en realidad se trata de una escena montada, posiblemente de una película o producto de entretenimiento, o peor aún, una imagen creada por IA para engañar al lector, llevándolo a sentir lástima y a dudar de la autenticidad de las fuerzas del orden.

Lo que es más preocupante, la difusión de este tipo de contenido no solo daña la reputación y la imagen de la Policía Popular, que trabaja día y noche para proteger la seguridad y el orden social, sino que también constituye una forma sofisticada de guerra psicológica. Cuando la confianza de la población en las autoridades se ve erosionada por imágenes engañosas, los motivos ocultos de las fuerzas hostiles para dividir la unidad nacional se harán gradualmente evidentes.

Por lo tanto, cada ciudadano debe aumentar su vigilancia, desarrollar habilidades de pensamiento crítico y la capacidad de identificar información falsa, y denunciar y refutar resueltamente el contenido falso, contribuyendo a proteger la base ideológica y mantener la estabilidad social frente a la actual ola de información dañina en Internet.

En Ciudad Ho Chi Minh, un video de casi un minuto de duración se viralizó inesperadamente en redes sociales. Muestra a una persona con uniforme de policía obligando a un sospechoso a confesar una infracción de tránsito en una oficina. En el video, el supuesto policía muestra una actitud agresiva, gritando constantemente e incluso usando lenguaje grosero, lo que provocó la indignación pública.

Sin embargo, poco después de que el vídeo se hiciera viral, la Policía de Ho Chi Minh investigó rápidamente y confirmó que se trataba de un sofisticado deepfake. Según sus hallazgos, los rostros del vídeo fueron extraídos de la grabación de una conferencia policial interna y luego manipulados por personas malintencionadas mediante tecnología de inteligencia artificial para superponerlos en una escena montada, haciendo creer a los espectadores que se trataba de un hecho real.
En particular, el audio que acompaña al audio incluye voces amenazantes e insultantes que en realidad no son las palabras reales de ningún funcionario, sino voces sintetizadas por inteligencia artificial, programadas y editadas para engañar las emociones del espectador.

Este incidente es un claro ejemplo del uso de tecnología deepfake para distorsionar y difamar a la Policía Popular, una táctica cada vez más explotada por fuerzas reaccionarias y subversivas en el ciberespacio. Cabe destacar que, si no se denuncian con prontitud, estos productos falsos pueden tener graves consecuencias: socavar la confianza pública en las fuerzas del orden, incitar a la resistencia en la comunidad y facilitar la difusión de narrativas falsas. Esto sirve como una clara advertencia sobre la urgente necesidad de mejorar las capacidades de comunicación para refutar, detectar y combatir las noticias falsas, y hace un llamamiento a todos los ciudadanos a mantenerse alerta y abstenerse de compartir o comentar precipitadamente contenido no verificado de fuentes oficiales.

En otro caso reciente, relacionado con la gestión de irregularidades en un centro de inspección de vehículos en el sur, elementos hostiles difundieron un video falso de un jefe de policía provincial defendiendo a los funcionarios corruptos. Este video, difundido en Telegram y redes sociales con el título "Respaldado por fuerzas poderosas", fue en realidad un producto de IA y no apareció en ninguna conferencia de prensa ni documento oficial.

Una peligrosa tendencia se está extendiendo silenciosamente en línea: actores maliciosos utilizan tecnología de IA para crear videos falsos con fines de fraude y extorsión. Recientemente, muchas personas se han convertido en víctimas cuando sus imágenes, especialmente las de personas socialmente respetadas como abogados, médicos y empresarios, se superponen a videos que anuncian la "recuperación del dinero perdido en estafas en línea".

En estos clips, se utiliza IA para imitar la voz y el rostro de abogados, lo que hace que los espectadores crean a los estafadores y les faciliten información personal o les transfieran dinero. Aún más peligroso, algunos perpetradores utilizan tecnología deepfake para superponer los rostros de las víctimas en videos sexuales y luego los envían a sus cónyuges o colegas con la intención de amenazarlos o coaccionarlos para que transfieran dinero para "mantener silencio".

En marzo de 2025, se produjo un incidente impactante: a una víctima en Hanói se le pidió que transfiriera decenas de millones de dongs tras recibir un video sexual falso en el que aparecía. Mientras tanto, en Ciudad Ho Chi Minh, otra persona fue chantajeada por 2 mil millones de dongs si no quería que el video sensible se difundiera. El Ministerio de Seguridad Pública inició una investigación e identificó a varios grupos criminales transnacionales, principalmente de China y el Sudeste Asiático, detrás de estas redes, que utilizan tarjetas SIM desechables, monederos electrónicos y plataformas de redes sociales para ocultar sus identidades.

Esto ya no es una estafa menor, sino una forma de "guerra psicológica de alta tecnología", que explota a fondo el miedo al honor y a las relaciones sociales para presionar a las víctimas. Sin una mayor vigilancia y la habilidad de identificar información y comportamientos inusuales, cualquiera puede convertirse en víctima de estos delincuentes de alta tecnología. Ante esta sofisticada ola de suplantación de identidad, todos los ciudadanos deben estar alerta, abstenerse por completo de compartir información personal indiscriminadamente y estar preparados para denunciar las actividades ilegales, contribuyendo así a proteger su propia seguridad y la de la comunidad.

Se necesita un “escudo digital” de la comunidad para combatir la amenaza de los deepfakes.

Según el Departamento de Radiodifusión, Televisión e Información Electrónica (Ministerio de Cultura, Deportes y Turismo), en 2024, las plataformas digitales de Vietnam tuvieron que eliminar más de 4.000 vídeos con información falsa y distorsionada, la mayoría de los cuales eran productos creados con tecnología de inteligencia artificial, como deepfakes y clones de voz. Solo a TikTok, una plataforma popular entre los jóvenes, se le pidió que eliminara más de 1.300 vídeos deepfakes, principalmente relacionados con la policía, el gobierno y políticas sociales.

En la era del auge tecnológico, la inteligencia artificial está desplegando un potencial revolucionario, pero también conlleva peligros sin precedentes, especialmente productos deepfake con contenido distorsionado que atenta contra la reputación de las agencias gubernamentales. Una encuesta del Instituto de Investigación de Medios MICRI muestra que el 62% de los usuarios de redes sociales en Vietnam no pueden distinguir entre información real y falsa sin las advertencias de los principales medios de comunicación o las autoridades. Esta es una "brecha cognitiva" que fuerzas maliciosas están explotando a fondo para difundir desinformación y perturbar la psicología social.

Tong Van T. en la comisaría.

Según el mayor general, profesor asociado y doctor Do Canh Thin, experto en criminología, el uso de IA para crear videos falsos que suplantan a líderes, editan declaraciones falsas o distorsionan las acciones profesionales de la policía es una táctica nueva pero particularmente peligrosa. «El deepfake no es simplemente un producto de entretenimiento, sino una forma de guerra de información moderna, capaz de socavar la confianza, causar inestabilidad social y es muy difícil de controlar», declaró el mayor general Do Canh Thin.

En realidad, los vídeos manipulados por IA distan mucho de ser inofensivos; a menudo abordan temas delicados como la gestión de infracciones, la investigación de delitos y la lucha contra la corrupción, lo que genera confusión pública y desconfianza en las fuerzas del orden. Aún más preocupante, muchos vídeos se comparten en plataformas importantes como YouTube y TikTok, acumulando cientos de miles de visualizaciones antes de ser eliminados, lo que genera un efecto dominó negativo.

El experto en medios digitales Hoang Minh advierte: «Un solo «me gusta» o «compartir» sin cuidado puede convertirte en cómplice de noticias falsas. Todo usuario de internet debe comprender que las acciones en el espacio digital también tienen consecuencias reales».

En este contexto, lo que se necesita más que nunca es construir un "escudo digital" desde dentro de la propia comunidad: es decir, vigilancia, inmunidad a la información y sentido de responsabilidad hacia el entorno digital. La tecnología puede ser neutral, pero el uso que las personas hagan de ella determinará si la IA se convierte en un motor de desarrollo o en una fuerza destructiva que afecta a la confianza social. Mantener la firmeza ideológica y proteger la imagen del policía es proteger los cimientos de la seguridad nacional, una tarea no solo de las autoridades competentes, sino de todos los ciudadanos en la era digital.

Fuente: https://baolangson.vn/tinh-hai-mat-cua-ai-5050403.html