Advertencia sobre la amenaza de contenido falso sobre desastres naturales generado por IA

La gente ahora se enfrenta a una nueva era en la que cualquiera puede crear vídeos o imágenes muy convincentes relacionados con inundaciones, huracanes o cualquier desastre.

Los vídeos cada vez más realistas generados por inteligencia artificial (IA) son un factor importante en el aumento de la difusión de contenido falso durante los desastres por inundaciones, lo que provoca confusión pública y corre el riesgo de generar pánico generalizado, amenazando la seguridad de la información nacional.

Esta es la advertencia de un experto en seguridad de Malasia en el contexto de un número creciente de desastres naturales que ocurren debido al impacto del cambio climático.

La Dra. Noor Nirwandy Mat Noordin, analista de guerra, seguridad y política de la Universidad Tecnológica MARA (UiTM), afirmó que el público es muy susceptible a los videos e imágenes generados por IA. Nos enfrentamos a una nueva era en la que cualquiera puede crear videos o imágenes altamente convincentes relacionados con inundaciones, ciclones o cualquier otro desastre.

Si no se controla, esto puede provocar un caos informativo, ya que las personas, sin darse cuenta, creen en el contenido falso que circula en las redes sociales y contribuyen a la creación de narrativas o percepciones falsas, especialmente en tiempos de crisis. Por lo tanto, según la Dra. Noor, la verificación de datos debería convertirse en una norma cultural y el público debería utilizar plataformas de verificación de datos para garantizar la veracidad de la información que recibe.

También advirtió que la amenaza de la manipulación de información basada en inteligencia artificial podría influir en el sentimiento público, afectar sus reacciones y socavar el orden público y la seguridad nacional.

El Dr. Noor sugirió que Malasia estableciera un centro nacional de información sobre desastres y una unidad especializada en la revisión de información sobre desastres para garantizar un flujo de información más organizado y preciso. También debería elaborarse un calendario nacional de desastres como referencia periódica para ayudar a la población a prepararse, mientras que los organismos de seguridad se centran en mejorar la coordinación de rescates.

Coincidiendo con esta opinión, el analista de delitos Shahul Hamid destacó que el acto de crear y difundir información falsa sobre desastres naturales ha sido identificado ahora como una nueva amenaza para la gestión de emergencias, ya que la tecnología de imágenes actual puede crear imágenes de inundaciones increíblemente realistas en solo unos minutos.

Dijo que el fenómeno está provocando un "desastre informativo" y causando impactos que no sólo se limitan a daños físicos sino que también perturban la información real y causan pánico, confusión y obstaculizan la comunicación real.

Shahul Hamid advirtió que el problema podría agravarse si la alfabetización digital de la población sigue siendo baja. La difusión de imágenes falsas también podría interrumpir las operaciones de rescate de los departamentos de bomberos y policía, ya que los recursos podrían desviarse a lugares equivocados mientras se ignoran las zonas realmente afectadas. Esto aumentaría el riesgo de desperdiciar recursos, retrasar las respuestas y descoordinar los esfuerzos.

Según Shahul Hamid, las líneas telefónicas de emergencia también corren el riesgo de verse saturadas por las constantes llamadas del público para verificar la autenticidad del video, lo que significa que llamadas importantes podrían quedar sin respuesta. Además, la difusión de información que contradice las declaraciones oficiales también socava la confianza pública en las agencias y los equipos de voluntarios.

Además, las imágenes falsas de IA también pueden usarse para cometer fraudes, como la recaudación de fondos falsa, la explotación de la empatía pública y la manipulación de las emociones, lo que añade nuevas dimensiones a las amenazas a la seguridad digital.

Como al público le resulta cada vez más difícil diferenciar el contenido real de los videos generados por IA, la falta de capacitación en alfabetización digital y refuerzo psicológico público durante los desastres hará que muchas personas sean más propensas a creer en contenido dramático, especialmente cuando los algoritmos de las redes sociales a menudo priorizan el contenido sensacionalista, lo que hace que los videos falsos se difundan más rápido que la información oficial.

El Sr. Shahul Hamid enfatizó que la falta de un centro de referencia rápida para verificar el contenido relacionado con el desastre dejaría al público vulnerable al fraude.

Una encuesta de Bernama en TikTok e Instagram reveló que surgieron más videos con IA después de la temporada de monzones, que afectó a varios estados. El contenido falso encontrado incluía imágenes de cocodrilos emergiendo, tigres entrando en aldeas, animales venenosos y situaciones inusuales que se representaban como si ocurrieran durante inundaciones.

Muchos vídeos falsos de graves inundaciones parecen muy reales y se difunden muy rápidamente, lo que hace que muchos usuarios crean que se trata de filmaciones tomadas de imágenes reales, mientras que en realidad son vídeos generados completamente por IA.

(TTXVN/Vietnam+)

Fuente: https://www.vietnamplus.vn/canh-bao-moi-de-doa-tu-nhung-noi-dung-gia-mao-ve-thien-tai-do-ai-tao-ra-post1080179.vnp