Es hora de que cada usuario se convierta en un “escudo digital”, esté alerta, vigilante y responsable de cada clic y compartir.
Beneficios y la delgada línea de la IA
La inteligencia artificial nunca ha estado tan cerca de la vida como hoy. Con solo unos clics y un breve comando, se pueden crear voces, imágenes e incluso vídeos con un realismo asombroso. La IA ayuda a ahorrar tiempo, reducir los costes de producción de contenido y abrir la era de los medios digitales flexibles.
Sin embargo, la capacidad de simular de forma realista se ha convertido en un arma de doble filo. Recientemente, han aparecido en redes sociales videos creados con tecnología deepfake, en los que se han copiado, pegado, doblado y distorsionado rostros de jefes policiales e imágenes de fuerzas de seguridad en casos delicados para generar malentendidos y dividir a la gente.
Imágenes escenificadas como ésta aparecen cada vez más en las redes sociales.
En un video que circulaba en TikTok, la imagen de un agente de la policía de tránsito en servicio se acompañaba de un diálogo ofensivo y la etiqueta "multa por farsa" para insinuar que el agente abusaba de su poder para beneficio propio. Muchos usuarios, especialmente jóvenes, creyeron fácilmente este contenido porque la imagen era tan realista y la voz se parecía tanto a la forma de la boca que era extremadamente difícil distinguir entre lo real y lo falso.
Solo por querer presumir de su habilidad para aplicar la tecnología de IA, un joven YouTuber de Dien Bien tuvo que pagar las consecuencias: recibió una multa administrativa y se vio obligado a disculparse públicamente. La tarde del 24 de enero, la Policía Provincial de Dien Bien anunció que el Departamento de Ciberseguridad y Prevención de Delitos de Alta Tecnología había decidido multar administrativamente a Tong Van T. (nacido en 2001, residente en el distrito de Muong Ang) con 7,5 millones de dongs por usar IA para crear un video falso con contenido distorsionado e insultar a la Policía de Tráfico.
En concreto, el 7 de enero, T. subió a la cuenta de YouTube "Tuyền Vlog" un vídeo de más de 3 minutos con el impactante título: "Mientras pasaba el rato, me persiguió la policía de tráfico". En el vídeo, se utilizaron imágenes y situaciones simuladas mediante IA, simulando a la policía de tráfico persiguiendo a personas, combinadas con efectos y comentarios que atacan y difaman a las autoridades.
En colaboración con la policía, T. admitió que todo el contenido del vídeo era una falsificación con fines de "entretenimiento" y para demostrar la capacidad de usar tecnología de inteligencia artificial. Además de la multa, las autoridades exigieron a T. que eliminara el vídeo falso mencionado y se disculpara públicamente con la policía de tránsito en su canal personal de YouTube.
En la era de la explosión tecnológica digital, especialmente el rápido desarrollo de la inteligencia artificial, fuerzas hostiles y reaccionarias no han dudado en aprovechar esta herramienta para crear imágenes e historias falsas con el fin de distorsionar y difamar la imagen de las Fuerzas de Seguridad Pública de Vietnam. La foto que ha circulado recientemente en redes sociales, en la que una mujer embarazada con uniforme de policía es amenazada por dos hombres con apariencia de "gánsteres", es una clara muestra de esta artimaña.
La foto generada por IA se volvió viral en las redes sociales recientemente.
A primera vista, los espectadores podrían confundir esto con una escena real, acompañada de un titular sensacionalista como: "Un niño pobre salva a una policía embarazada de ser golpeada por gánsteres, abriendo inesperadamente un caso que conmociona a todo el país...". Sin embargo, en realidad se trata de una escena montada, posiblemente de una película o producto de entretenimiento, o peor aún, una imagen creada por IA para engañar al lector, llevándolo a compadecerse y dudar de la autenticidad de las actividades de las fuerzas del orden.
Aún más preocupante, la difusión de dicho contenido no solo daña la reputación e imagen de las Fuerzas de Seguridad Pública Popular, quienes día y noche protegen la seguridad y el orden social, sino que también constituye una forma de sofisticada guerra psicológica. Cuando la confianza ciudadana en las autoridades se ve erosionada por imágenes falsas, el profundo objetivo de las fuerzas hostiles de dividir el gran bloque de unidad nacional se hará realidad gradualmente.
Por lo tanto, cada ciudadano debe aumentar su vigilancia, tener pensamiento crítico y habilidades para identificar información falsa y denunciar y refutar resueltamente el contenido falso, contribuyendo a proteger la base ideológica y mantener la estabilidad social frente a la actual ola de información tóxica en el ciberespacio.
En Ciudad Ho Chi Minh, un video de casi un minuto se viralizó repentinamente en redes sociales. Muestra la escena de una persona con uniforme de policía extorsionando confesiones a un infractor en una oficina. En el video, el supuesto policía muestra una actitud severa, gritando y regañando constantemente, incluso con palabras groseras, lo que provocó indignación pública.
Sin embargo, inmediatamente después de que el video se viralizara, la Policía de Ho Chi Minh investigó rápidamente y confirmó que se trataba de un sofisticado deepfake. Según la conclusión, el rostro del video fue extraído de la grabación de una conferencia interna de la policía, y posteriormente, los delincuentes utilizaron tecnología de inteligencia artificial para introducirlo en una escena montada, haciendo creer erróneamente a los espectadores que se trataba de un acto real.
En particular, el audio que acompaña incluye una voz amenazante e insultante que en realidad no son las palabras reales de ningún oficial, sino una voz de inteligencia artificial sintetizada, programada y editada para engañar las emociones del espectador.
El incidente es un ejemplo típico del uso de tecnología deepfake para distorsionar y difamar a las Fuerzas de Seguridad Pública Popular, una artimaña cada vez más explotada por fuerzas reaccionarias y antigubernamentales en el ciberespacio. Cabe destacar que, si no se denuncian con prontitud, estos productos falsos pueden tener graves consecuencias: socavar la confianza ciudadana en las fuerzas del orden, incitar a la resistencia en la comunidad y crear las condiciones para la propagación de argumentos falsos. Esta es una clara advertencia sobre la urgencia de mejorar la capacidad de los medios de comunicación para refutar, detectar y combatir las noticias falsas, y al mismo tiempo, un llamado a la ciudadanía a estar alerta y no apresurarse a compartir o comentar contenido no verificado de fuentes oficiales.
En otro caso reciente, relacionado con la gestión de infracciones en un centro de inspección de vehículos en el sur, sujetos hostiles difundieron un video falso de un jefe de policía provincial hablando en defensa de los agentes infractores. Este video se difundió en Telegram y redes sociales con el título "respaldado por fuerzas poderosas", pero en realidad era producto de IA y no apareció en ninguna conferencia de prensa ni documento oficial.
Una peligrosa tendencia se está extendiendo silenciosamente en el ciberespacio: cibercriminales utilizan tecnología de inteligencia artificial para crear vídeos falsos con fines de fraude y chantaje. Recientemente, muchas personas se han convertido en víctimas cuando sus imágenes, especialmente las de personalidades prestigiosas como abogados, médicos y empresarios, se editan en vídeos publicitarios que muestran cómo recuperar dinero estafado en línea.
En estos vídeos, se utiliza IA para imitar la voz y el rostro del abogado, lo que genera confianza en los espectadores, quienes pueden proporcionar fácilmente información personal o transferir dinero al estafador. Aún más peligroso, algunos sujetos también utilizan tecnología deepfake para insertar el rostro de la víctima en vídeos sexuales y luego enviarlos a sus parejas o colegas con el fin de amenazarlos y obligarlos a transferir dinero para "mantener el asunto en secreto".
En marzo de 2025, se produjo un incidente impactante: a una víctima en Hanói se le pidió que transfiriera decenas de millones de VND tras recibir un vídeo sexual falso con su propia imagen. Mientras tanto, en Ciudad Ho Chi Minh, otra persona fue chantajeada con hasta 2 mil millones de VND si no quería que el vídeo sensible se difundiera. El Ministerio de Seguridad Pública intervino, identificando a numerosos grupos criminales transnacionales, principalmente de China y el Sudeste Asiático, que se encuentran detrás de estas redes y utilizan tarjetas SIM, monederos electrónicos y plataformas de redes sociales fraudulentas para ocultar sus identidades.
Esto ya no es una estafa a pequeña escala, sino una forma de "guerra psicológica de alta tecnología", que explota el miedo al honor y a las relaciones sociales para presionar a la víctima. Si no se aumenta la vigilancia y la habilidad para identificar información y comportamientos inusuales, cualquiera puede convertirse en presa fácil de delincuentes que utilizan alta tecnología. Ante esta sofisticada ola de falsificación, todos los ciudadanos deben estar alerta, evitar por completo compartir información personal indiscriminadamente y estar listos para denunciar actos ilegales, contribuyendo así a la protección de su propia seguridad y la de la comunidad.
Se necesita un “escudo digital” basado en la comunidad para combatir la amenaza de los deepfakes.
Según el Departamento de Radio, Televisión e Información Electrónica (Ministerio de Cultura, Deportes y Turismo), en 2024, las plataformas digitales en Vietnam tuvieron que eliminar más de 4.000 vídeos que contenían información falsa y distorsionada, la mayoría de los cuales eran productos creados a partir de tecnología de IA como deepfake, clones de voz... Solo a TikTok, una plataforma popular entre los jóvenes, se le pidió que eliminara más de 1.300 clips deepfake, principalmente relacionados con la fuerza policial, el gobierno y la política social.
En la era de la explosión tecnológica, la inteligencia artificial abre un potencial revolucionario, pero también conlleva peligros sin precedentes, especialmente productos deepfake con contenido distorsionado, que atentan contra la reputación de los organismos públicos. Una encuesta del Instituto de Investigación de Medios MICRI muestra que el 62 % de los usuarios de redes sociales en Vietnam no pueden distinguir entre contenido real y falso sin las advertencias de los principales medios de comunicación o las autoridades. Esta es una "brecha cognitiva" que las fuerzas malignas están explotando a fondo para difundir información falsa, lo que perturba la psicología social.
Tong Van T. en la comisaría.
Según el Mayor General, Profesor Asociado Dr. Do Canh Thin, experto en criminología, el uso de IA para crear videos falsos de líderes, editar declaraciones falsas o distorsionar las acciones profesionales de la policía es una maniobra nueva pero especialmente peligrosa. «El deepfake no es simplemente un producto de entretenimiento, sino una forma de guerra de información moderna, capaz de destruir la confianza, causar inestabilidad social y es muy difícil de controlar», declaró el Mayor General Do Canh Thin.
De hecho, los vídeos manipulados por IA no son inofensivos, sino que a menudo abordan temas delicados como la gestión de infracciones, la investigación de delitos, la lucha contra la corrupción, etc., lo que genera confusión y desconfianza en las personas hacia las fuerzas del orden. Aún más preocupante, muchos vídeos también se comparten en plataformas importantes como YouTube y TikTok, con cientos de miles de visualizaciones antes de ser eliminados, lo que crea un efecto viral negativo.
El experto en medios digitales Hoang Minh advierte: «Con solo compartir o dar un «me gusta» sin tener cuidado, puedes convertirte en un facilitador de noticias falsas. Todo usuario de internet debe comprender que el comportamiento en el espacio digital también tiene consecuencias reales».
En este contexto, lo que se necesita más que nunca es construir un "escudo digital" desde la propia comunidad: es decir, vigilancia, inmunidad a la información y responsabilidad por el entorno de red. La tecnología puede ser neutral, pero el uso que las personas hagan de ella determinará si la IA se convierte en un motor de desarrollo o en una fuerza que destruya la confianza social. Mantener el frente ideológico, protegiendo la imagen del soldado de la Seguridad Pública Popular, es proteger los cimientos de la seguridad nacional, una tarea no solo del sector funcional, sino de todos los ciudadanos en la era digital.
Fuente: https://baolangson.vn/tinh-hai-mat-cua-ai-5050403.html
Kommentar (0)