Es hora de que cada usuario se convierta en un “escudo digital”, esté alerta, vigilante y responsable de cada clic y compartir.
Beneficios y la delgada línea que separa la IA
La inteligencia artificial nunca ha estado tan cerca de la vida como hoy. Con solo unos clics, un comando breve puede crear voces, imágenes e incluso vídeos con un realismo asombroso. La IA ayuda a ahorrar tiempo, reducir los costes de producción de contenido y abrir la era de los medios digitales flexibles.
Sin embargo, la capacidad de simular de forma realista se ha convertido en un arma de doble filo. Recientemente, han aparecido en redes sociales videos creados con tecnología deepfake, en los que se copian y pegan rostros de jefes de policía, imágenes de fuerzas de seguridad en casos delicados, y se doblan con voces distorsionadas para generar malentendidos y dividir a la gente.
Imágenes escenificadas como ésta aparecen cada vez más en las redes sociales.
En un video que circuló en TikTok, la imagen de un agente de la policía de tránsito en servicio se combinó con un diálogo ofensivo y la etiqueta "multa por el gusto de ser multada" para insinuar que este agente abusaba de su poder para beneficio propio. Muchos usuarios, especialmente jóvenes, creyeron fácilmente este contenido porque la imagen era tan realista y la voz se parecía tanto a la forma de la boca que era extremadamente difícil distinguir entre lo real y lo falso.
Solo por querer presumir de su habilidad para aplicar la tecnología de IA, un joven YouTuber de Dien Bien tuvo que pagar las consecuencias: recibió una multa administrativa y se vio obligado a disculparse públicamente. La tarde del 24 de enero, la Policía Provincial de Dien Bien anunció que el Departamento de Ciberseguridad y Prevención de Delitos de Alta Tecnología había decidido multar administrativamente a Tong Van T. (nacido en 2001, residente en el distrito de Muong Ang) con 7,5 millones de dongs por usar IA para crear un video falso con contenido distorsionado e insultar a la Policía de Tráfico.
En concreto, el 7 de enero, T. subió a la cuenta de YouTube "Tuyền Vlog" un vídeo de más de 3 minutos con el impactante título: "Mientras pasaba el rato, me persiguió la policía de tráfico". En el vídeo, se simularon imágenes y situaciones mediante IA, simulando a la policía de tráfico persiguiendo a personas, con efectos y comentarios ofensivos y difamatorios hacia las autoridades.
En colaboración con la policía, T. admitió que todo el contenido del vídeo era una falsificación con fines de "entretenimiento" y para demostrar la capacidad de usar tecnología de inteligencia artificial. Además de la multa, las autoridades le pidieron a T. que eliminara el vídeo falso mencionado y se disculpara públicamente con la policía de tránsito en su canal personal de YouTube.
En la era de la explosión tecnológica digital , especialmente el rápido desarrollo de la inteligencia artificial, fuerzas hostiles y reaccionarias no han dudado en aprovechar esta herramienta para crear imágenes e historias falsas con el fin de distorsionar y difamar la imagen de las Fuerzas de Seguridad Pública del Pueblo de Vietnam. La foto que ha circulado recientemente en redes sociales, en la que una mujer embarazada con uniforme de policía es amenazada por dos hombres con aspecto de gánster, es una clara muestra de esta artimaña.
La foto generada por IA se volvió viral en las redes sociales recientemente.
A primera vista, los espectadores pueden confundir esto fácilmente con una escena real, acompañada de un titular sensacionalista como: "Un niño pobre salva a una policía embarazada de ser golpeada por gánsteres, abriendo inesperadamente un caso que conmociona a todo el país...". Sin embargo, en realidad se trata de una escena preparada, posiblemente de una película o producto de entretenimiento, o peor aún, una imagen creada por IA para engañar a los lectores, llevándolos a compadecerse y dudar de la autenticidad de las actividades de las fuerzas del orden.
Lo que es más preocupante, la difusión de este tipo de contenido no solo daña la reputación y la imagen de las Fuerzas de Seguridad Pública Popular, que velan por la seguridad y el orden social día y noche, sino que también constituye una forma sofisticada de guerra psicológica. Cuando la confianza ciudadana en las autoridades se ve erosionada por imágenes falsas, el profundo objetivo de las fuerzas hostiles de dividir el gran bloque de unidad nacional se hará realidad gradualmente.
Por lo tanto, cada ciudadano debe aumentar su vigilancia, tener pensamiento crítico y habilidades para identificar información falsa y denunciar y refutar resueltamente el contenido falso, contribuyendo a proteger la base ideológica y mantener la estabilidad social frente a la actual ola de información tóxica en el ciberespacio.
En Ciudad Ho Chi Minh, un video de casi un minuto se viralizó repentinamente en redes sociales. Muestra la escena de una persona con uniforme de policía extorsionando a un infractor en una oficina. En el video, el supuesto policía muestra una actitud dura, gritando y regañando constantemente, incluso con palabras groseras, lo que provocó indignación pública.
Sin embargo, inmediatamente después de que el video se viralizara, la Policía de Ho Chi Minh investigó rápidamente y confirmó que se trataba de un sofisticado deepfake. Según la conclusión, el rostro del video fue extraído de la grabación de una conferencia interna de la policía, y posteriormente, los delincuentes utilizaron tecnología de inteligencia artificial para introducirlo en una escena montada, haciendo creer erróneamente a los espectadores que se trataba de una acción real.
En particular, el audio que acompaña incluye una voz amenazante e insultante que en realidad no son las palabras reales de ningún funcionario, sino una voz de inteligencia artificial sintetizada, programada y editada para engañar las emociones del espectador.
El incidente es un ejemplo típico del uso de tecnología deepfake para distorsionar y difamar a las Fuerzas de Seguridad Pública Popular, una artimaña cada vez más explotada por fuerzas reaccionarias y antigubernamentales en el ciberespacio. Cabe destacar que, si no se denuncian con prontitud, estos productos falsos pueden tener graves consecuencias: socavar la confianza de la población en las fuerzas del orden, incitar a la resistencia en la comunidad y crear las condiciones para la propagación de argumentos falsos. Esta es una clara advertencia sobre la urgencia de mejorar la capacidad de los medios de comunicación para refutar, detectar y combatir las noticias falsas, y al mismo tiempo, un llamado a la ciudadanía a estar alerta y no apresurarse a compartir o comentar contenido no verificado de fuentes oficiales.
En otro caso reciente, relacionado con la gestión de infracciones en un centro de inspección de vehículos en el sur, sujetos hostiles difundieron un video falso de un jefe de policía provincial defendiendo a los agentes infractores. Este clip se difundió en Telegram y redes sociales con el título "respaldado por fuerzas poderosas", pero en realidad era producto de IA y no apareció en ninguna conferencia de prensa ni documento oficial.
Una peligrosa tendencia se está extendiendo silenciosamente en el ciberespacio: cibercriminales utilizan tecnología de inteligencia artificial para crear vídeos falsos con fines de fraude y chantaje. Recientemente, muchas personas han sido víctimas de la edición de sus imágenes, especialmente las de personalidades prestigiosas como abogados, médicos y empresarios, en vídeos publicitarios que buscan recuperar dinero estafado en línea.
En estos videos, se utiliza IA para falsificar la voz y el rostro del abogado, generando confianza en los espectadores, quienes pueden proporcionar fácilmente información personal o transferir dinero al estafador. Aún más peligroso, algunos sujetos también usan tecnología deepfake para insertar el rostro de la víctima en videos sexuales y luego enviarlos a sus esposas, esposos o colegas con el fin de amenazarlos y obligarlos a transferir dinero para "mantener el asunto en secreto".
En marzo de 2025, se produjo un incidente impactante: a una víctima en Hanói se le pidió que transfiriera decenas de millones de dongs tras recibir un vídeo sexual falso con su propia imagen. Mientras tanto, en Ciudad Ho Chi Minh, otra persona fue chantajeada con hasta 2 mil millones de dongs si no quería que el vídeo sensible se difundiera. El Ministerio de Seguridad Pública ha intervenido, identificando a numerosos grupos criminales transnacionales, principalmente de China y el Sudeste Asiático, que se esconden tras estas redes y utilizan tarjetas SIM, monederos electrónicos y plataformas de redes sociales fraudulentas para ocultar sus identidades.
Esto ya no es una estafa a pequeña escala, sino una forma de "guerra psicológica de alta tecnología", que explota el miedo al honor y a las relaciones sociales para presionar a la víctima. Si no se aumenta la vigilancia y la habilidad para identificar información y comportamientos inusuales, cualquiera puede convertirse en presa fácil de delincuentes que utilizan alta tecnología. Ante esta sofisticada ola de falsificación, todos los ciudadanos deben estar alerta, abstenerse de compartir información personal indiscriminadamente y estar listos para denunciar actos ilegales, contribuyendo así a la protección de su propia seguridad y la de la comunidad.
Se necesita un “escudo digital” de la comunidad para combatir la amenaza del deepfake.
Según el Departamento de Radio, Televisión e Información Electrónica (Ministerio de Cultura, Deportes y Turismo), en 2024, las plataformas digitales en Vietnam tuvieron que eliminar más de 4.000 vídeos que contenían información falsa y distorsionada, la mayoría de los cuales eran productos creados a partir de tecnología de IA como deepfake, clones de voz... Solo a TikTok, una plataforma popular entre los jóvenes, se le pidió que eliminara más de 1.300 clips deepfake, principalmente relacionados con la fuerza policial, el gobierno y la política social.
En la era de la explosión tecnológica, la inteligencia artificial abre un potencial revolucionario, pero también conlleva peligros sin precedentes, especialmente productos deepfake con contenido distorsionado, que atentan contra la reputación de los organismos públicos. Una encuesta del Instituto de Investigación de Medios MICRI muestra que el 62 % de los usuarios de redes sociales en Vietnam no pueden distinguir entre contenido real y falso sin las advertencias de los principales medios de comunicación o las autoridades. Esta es una "brecha cognitiva" que las fuerzas malignas están explotando a fondo para difundir información falsa, causando perturbaciones psicológicas sociales.
Tong Van T. en la comisaría.
Según el Mayor General, Profesor Asociado Dr. Do Canh Thin, experto en criminología, el uso de IA para crear videos falsos de líderes, editar declaraciones falsas o distorsionar las acciones profesionales de la policía es un truco nuevo pero especialmente peligroso. «El deepfake no es simplemente un producto de entretenimiento, sino una forma de guerra de información moderna, capaz de destruir la confianza, causar inestabilidad social y es muy difícil de controlar», comentó el Mayor General Do Canh Thin.
De hecho, los vídeos manipulados por IA no son inofensivos, sino que a menudo abordan temas delicados como la gestión de infracciones, la investigación de delitos, la lucha contra la corrupción, etc., lo que genera confusión y desconfianza en las autoridades. Aún más preocupante es que muchos vídeos se comparten en plataformas importantes como YouTube y TikTok, con cientos de miles de visualizaciones antes de ser eliminados, lo que genera un efecto viral negativo.
El experto en medios digitales Hoang Minh advierte: «Con solo compartir o dar un «me gusta» sin tener cuidado, puedes convertirte en un facilitador de noticias falsas. Todo usuario de internet debe comprender que el comportamiento en el espacio digital también tiene consecuencias reales».
En este contexto, lo que se necesita más que nunca es construir un "escudo digital" desde la propia comunidad: es decir, vigilancia, inmunidad a la información y responsabilidad por el entorno de red. La tecnología puede ser neutral, pero el uso que las personas hagan de ella determinará si la IA se convierte en un motor de desarrollo o en una fuerza que destruya la confianza social. Mantener el frente ideológico y proteger la imagen del soldado de la Seguridad Pública Popular es proteger los cimientos de la seguridad nacional, una tarea no solo del sector funcional, sino también de todos los ciudadanos en la era digital.
Fuente: https://baolangson.vn/tinh-hai-mat-cua-ai-5050403.html
Kommentar (0)