Un deepfake sobre la guerra de Gaza genera inquietud sobre la inteligencia artificial

[anuncio_1]

Con millones de visualizaciones en línea, las imágenes son deepfakes creados con inteligencia artificial. Si se observa con atención, se pueden ver indicios reveladores: dedos curvos u ojos que brillan con una luz artificial.

Sin embargo, la indignación que generan esas imágenes deepfake es real.

Las fotografías de la guerra entre Israel y Hamás ilustran de forma vívida y dolorosa los peligros de la IA como herramienta de propaganda, utilizada para crear imágenes realistas.

Desde que comenzaron los combates el mes pasado, se han utilizado fotografías manipuladas digitalmente que circulan en las redes sociales para hacer afirmaciones falsas sobre la responsabilidad por las víctimas o para engañar a la gente sobre atrocidades que nunca ocurrieron.

Las imágenes deepfake de la guerra de Gaza suscitan nuevas preocupaciones imagen 1 — Un palestino recoge sus pertenencias de los escombros en Gaza. Foto AP.

Los avances tecnológicos se producen con una frecuencia cada vez mayor y escasa supervisión. Esto pone de manifiesto el riesgo de que la IA se convierta en otra forma de arma y ofrece un anticipo de lo que ocurrirá en futuros conflictos, elecciones y otros eventos importantes.

“Las cosas van a empeorar mucho antes de mejorar”, dijo Jean-Claude Goldenstein, director ejecutivo de CREOpoint, una empresa de tecnología con sede en San Francisco y París que utiliza inteligencia artificial para evaluar la validez de las quejas en línea.

Su empresa ha compilado una base de datos de las imágenes deepfake más virales provenientes de Gaza. «Imágenes, vídeos y audio: con la IA creativa, este es un avance nunca antes visto», afirmó.

Imran Ahmed, director ejecutivo del Centro para Contrarrestar el Odio Digital, una organización sin fines de lucro que rastrea la desinformación relacionada con la guerra, dijo que los propagandistas que crean esas imágenes son expertos en apuntar a los impulsos y ansiedades más profundos de las personas.

Cuanto más aterradora sea la imagen, más probable es que los usuarios la recuerden y la compartan, difundiendo sin querer más desinformación. Desinformación similar generada por IA ha empezado a viralizarse desde el conflicto entre Rusia y Ucrania.

Cada nuevo conflicto o temporada electoral presenta nuevas oportunidades para quienes difunden desinformación. Esto ha llevado a numerosos expertos en inteligencia artificial y politólogos a advertir sobre los riesgos para el próximo año, cuando varios países celebren elecciones importantes, como Estados Unidos, India, Pakistán, Ucrania, Indonesia y México.

El riesgo de que la IA y las redes sociales se utilicen para difundir mentiras entre los votantes estadounidenses ha alarmado a legisladores de ambos partidos en Washington. En una audiencia reciente sobre los peligros de la tecnología deepfake, el representante estadounidense Gerry Connolly, demócrata por Virginia, afirmó que Estados Unidos necesita invertir en el desarrollo de herramientas de IA diseñadas para contrarrestar otras IA.

Para responder eficazmente a los desafíos políticos y sociales que plantea la desinformación generada por IA se necesitarán una mejor tecnología y una mejor regulación, afirmó el profesor David Doermann de la Universidad de Buffalo.

Mai Anh (según AP)

[anuncio_2]
Fuente