Bloquear la "ola" de vídeos falsos que atraen visitas tras el desastre

El acto de utilizar la tecnología para distorsionar la verdad no sólo viola la ética y la ley, sino que también hiere profundamente la psicología del espectador, afecta gravemente a la familia de la víctima y socava la confianza en la comunidad.

Imágenes falsas generadas por IA del barco volcado en la bahía de Ha Long.

Tragedia virtual, daños reales

El naufragio del crucero Blue Bay 58 en la bahía de Ha Long el pasado mes de julio no sólo dejó consecuencias desgarradoras para las víctimas y sus familias, sino que también sirvió como advertencia sobre el fenómeno de la explotación poco ética de la información en el ciberespacio.

Apenas unas horas después del incidente, una serie de videos de "recreación" se difundieron rápidamente en plataformas como TikTok y Facebook. Imágenes de niños llorando, adultos gritando en medio de un vasto mar de agua, sirenas de rescate resonando en el aire... estremecieron a los espectadores. Sin embargo, la mayoría de esos videos eran productos recreados por IA o recortados de fuentes no relacionadas, lo que no reflejaba la realidad en absoluto.

Una fotografía común y corriente de un grupo de niños en un viaje a Ha Long en agosto de 2024 también se convirtió en la "última imagen antes del desastre" del barco volcado, compartida por muchas páginas de fans con subtítulos comprensivos.

Emocionada, la cantante Thai Thuy Linh compartió esta foto en su página personal con un mensaje conmemorativo, antes de que el propietario de la foto, el Sr. NT, solicitara una corrección y eliminación porque la foto había sido distorsionada.

No sólo las celebridades, muchas otras cuentas de redes sociales también se convirtieron en víctimas de videos falsos e imágenes distorsionadas cuando compartieron contenido falso con inocencia y simpatía.

No solo el barco volcado en la bahía de Ha Long, anteriormente, muchos videos también "recrearon" las consecuencias de las tormentas e inundaciones en la aldea de Lang Nu (provincia de Lao Cai ) el año pasado, o viejos accidentes de tráfico de hace muchos años también fueron "devueltos a la vida" en nuevos desastres por IA.

Estos clips, con ángulos de cámara dramáticos y voces narrativas trágicas, suelen terminar con la promesa de "ver el siguiente episodio para descubrir qué pasó" o un llamado a compartir en nombre de las víctimas. Al explotar las emociones y la curiosidad de los usuarios, el contenido falso se propaga a una velocidad vertiginosa, difuminando la línea entre lo real y lo falso.

Ante la situación descrita, el Profesor Asociado Dr. Bui Hoai Son, Miembro Titular de la Comisión de Cultura y Sociedad de la Asamblea Nacional, afirmó que, en la era de la explosión de información, muchas personas se ven arrastradas a un laberinto de noticias falsas y vídeos manipulados de alta tecnología con una apariencia "realista". Creen involuntariamente en cosas que no son reales, a la vez que son escépticos respecto a los valores confiables. Esta es una situación preocupante que amenaza la conciencia social y la confianza de la comunidad.

El impacto de estos contenidos tóxicos no se limita a emociones temporales, sino que muchas personas también reportan verse severamente afectadas psicológicamente luego de ser expuestas a videos trágicos y dolorosos.

La Sra. Nguyen Thanh Ha, propietaria de la tienda de tarjetas SIM en la calle Ngoc Lam 145 (distrito Bo De, Hanói), comentó: «Me siento atormentada hasta el punto de perder el sueño después de ver vídeos de accidentes y niños llorando. Cuando me di cuenta de que era falso, me sentí ofendida. Y lo que es aún más preocupante, mucha gente se aprovecha de la compasión de los espectadores para adjuntar códigos QR, cuentas de apoyo, ventas encubiertas... convirtiendo las emociones reales en descaradas herramientas de lucro».

Cómo distinguir lo real de lo falso en la era de la IA

El desarrollo de la inteligencia artificial (IA) ofrece muchas ventajas, pero también trae consigo una "pandemia de noticias falsas" sin precedentes. Según expertos de la Asociación de Ciberseguridad, crear imágenes y vídeos falsos es ahora más fácil y sofisticado, lo que dificulta a los usuarios distinguir entre lo real y lo falso. En particular, la falta de vigilancia y la costumbre de compartir información no verificada en redes sociales facilitan la rápida propagación de las noticias falsas.

La abogada Bui Thi Mai, del Colegio de Abogados de Hanói, afirmó que el uso de IA para crear contenido falso relacionado con desastres con el fin de atraer visitas y obtener beneficios es incorrecto y debe controlarse estrictamente. Las personas deben adquirir conocimientos tecnológicos y legales de forma proactiva, y confiar únicamente en fuentes de información oficiales, páginas de fans con buena reputación o personas de gran confianza. Usar las redes sociales de forma inteligente y legal no solo ayuda a protegerse, sino que también contribuye a prevenir las noticias falsas y a mantener un entorno en línea sano y civilizado.

Compartiendo la misma opinión, el Profesor Asociado Dr. Bui Hoai Son propuso la solución de que se necesitan medidas más contundentes para lidiar con las noticias y los videos falsos, no solo de las plataformas digitales sino también de la propia ley. Actualmente, el Código Penal, la Ley de Ciberseguridad y los decretos relacionados tienen disposiciones para manejar actos de difamación, falsificación y fraude en el ciberespacio, pero deben aplicarse estrictamente, e incluso se pueden agregar nuevas regulaciones para hacer frente al creciente peligro de noticias falsas asociadas con desastres. Además, es necesario fortalecer la educación mediática desde una edad temprana en las familias y las escuelas. Es necesario enseñar a los niños a reconocer videos falsos, habilidades de verificación de información y a comprender sus responsabilidades al compartir contenido. Más importante aún, la educación debe apuntar a fomentar la compasión para que nadie pueda beneficiarse del dolor ajeno.

En la era del fuerte desarrollo de la IA, distinguir entre lo real y lo falso ya no se basa simplemente en los sentidos, sino que requiere atención, conocimiento y responsabilidad por parte de cada usuario de las redes sociales. Por lo tanto, cada persona debe verificar proactivamente y ser cuidadosa antes de compartir y difundir valores auténticos para que las redes sociales se conviertan en un espacio de conexión confiable, contribuyendo a la construcción de un entorno de información sano y civilizado.

Fuente: https://hanoimoi.vn/chan-song-cau-view-tu-video-gia-sau-tham-hoa-711381.html