Estas imágenes, vistas millones de veces en línea, son deepfakes creados con inteligencia artificial. Si te fijas bien, puedes ver señales reveladoras: dedos curvos u ojos que brillan con una luz artificial.
Sin embargo, la indignación que han generado estas imágenes deepfake es real.
Las fotografías de la guerra entre Israel y Hamás ilustran de forma vívida y dolorosa los peligros de la IA como herramienta de propaganda, utilizada para crear imágenes realistas.
Desde que comenzaron los combates el mes pasado, se han utilizado fotografías manipuladas digitalmente que circulan en las redes sociales para realizar afirmaciones falsas sobre la responsabilidad por las víctimas o para engañar a la gente sobre atrocidades que nunca ocurrieron.
Un palestino recoge sus pertenencias de los escombros en Gaza. Foto AP.
Los avances tecnológicos se producen con cada vez mayor frecuencia y con escasa supervisión. Esto pone de manifiesto el riesgo de que la IA se convierta en otra forma de arma y ofrece un primer adelanto de lo que cabe esperar en futuros conflictos, elecciones y otros acontecimientos importantes.
“Las cosas van a empeorar mucho antes de mejorar”, dijo Jean-Claude Goldenstein, director ejecutivo de CREOpoint, una empresa de tecnología con sede en San Francisco y París que utiliza inteligencia artificial para evaluar la validez de las quejas en línea.
Su empresa ha compilado una base de datos de las imágenes deepfake más virales provenientes de Gaza. «Imágenes, vídeos y audio: con la IA generativa, este es un avance nunca antes visto», afirmó.
Imran Ahmed, director ejecutivo del Centro para Contrarrestar el Odio Digital, una organización sin fines de lucro que rastrea la desinformación de la guerra, dijo que los propagandistas que crean esas imágenes son expertos en apuntar a los impulsos y ansiedades más profundos de las personas.
Cuanto más aterradora sea la imagen, más probable es que los usuarios la recuerden y la compartan, difundiendo sin querer más desinformación. Desinformación similar generada por IA ha empezado a viralizarse desde el conflicto entre Rusia y Ucrania.
Cada nuevo conflicto o temporada electoral presenta nuevas oportunidades para los actores de la desinformación, lo que lleva a muchos expertos en IA y politólogos a advertir sobre los riesgos el próximo año, cuando varios países celebrarán elecciones importantes, incluidos Estados Unidos, India, Pakistán, Ucrania, Indonesia y México.
El riesgo de que la IA y las redes sociales se utilicen para difundir mentiras entre los votantes estadounidenses ha generado una advertencia entre legisladores de ambos partidos en Washington. En una audiencia reciente sobre los peligros de la tecnología deepfake, el representante estadounidense Gerry Connolly, demócrata por Virginia, afirmó que Estados Unidos necesita invertir en el desarrollo de herramientas de IA diseñadas para contrarrestar otras IA.
Para responder eficazmente a los desafíos políticos y sociales que plantea la desinformación generada por la IA se necesitarán una mejor tecnología y una mejor regulación, afirmó el profesor David Doermann de la Universidad de Buffalo.
Mai Anh (según AP)
[anuncio_2]
Fuente
Kommentar (0)