Los terroristas de ISIS y Al Qaeda utilizan IA para difundir propaganda extremista

El auge de los extremistas que utilizan IA

Durante el año pasado, observadores de varias organizaciones de monitoreo extremista han informado sobre cómo el EI y otros grupos extremistas están alentando a sus seguidores a usar nuevas herramientas digitales.

En febrero, un grupo vinculado a Al Qaeda anunció que comenzaría a organizar talleres en línea sobre IA. Posteriormente, publicó una guía sobre cómo usar un chatbot de IA.

En marzo, después de que un afiliado del EI llevara a cabo un ataque terrorista en un teatro de Moscú en el que murieron más de 135 personas, uno de los seguidores del grupo creó una noticia falsa sobre el acontecimiento y la publicó cuatro días después del ataque.

A principios de este mes, funcionarios del Ministerio del Interior de España arrestaron a nueve jóvenes por compartir material de propaganda que alababa al grupo EI, y uno de ellos fue descrito por centrarse en "contenido multimedia extremista utilizando aplicaciones de edición especializadas impulsadas por inteligencia artificial".

“Tanto Al Qaeda como EI están usando la IA como complemento a la propaganda oficial”, dijo Moustafa Ayad, director ejecutivo para África, Medio Oriente y Asia del Instituto para el Diálogo Estratégico (ISD), con sede en Londres, que estudia el extremismo en todas sus formas.

Agregó que la forma en que se muestra este contenido de propaganda puede no ser detectada por los moderadores de contenido en las plataformas de redes sociales populares.

Los grupos extremistas explotan cada vez más las tecnologías emergentes con fines maliciosos. Foto: Tim Goode

Los extremistas se encuentran entre los primeros en adoptar la tecnología de IA.

Cuando el grupo extremista ISIS surgió por primera vez alrededor de 2014, hicieron videos de propaganda con valores de producción bastante altos para intimidar a los enemigos y reclutar seguidores para que se convirtieran en miembros del grupo.

“Los grupos terroristas y quienes los apoyan siguen siendo los primeros en adoptar la tecnología para servir a sus intereses”, señaló Ayad.

Los grupos de vigilancia han descrito diversas maneras en que los grupos extremistas utilizan la IA. Además de la propaganda, también pueden usar chatbots basados ​​en grandes modelos de lenguaje, como ChatGPT, para conversar con posibles reclutas.

También existe la preocupación de que los extremistas puedan usar herramientas de IA para llevar a cabo ataques digitales o cibernéticos o para ayudarlos a planificar ataques terroristas en la vida real.

"No sé en esta etapa si el uso de IA por parte de organizaciones terroristas extranjeras y sus partidarios es más peligroso que las campañas de propaganda que implican asesinatos indiscriminados de civiles y ataques a las fuerzas de seguridad", dijo Ayad de ISD.

“Actualmente, la mayor amenaza es que estos grupos estén llevando a cabo ataques, difundiendo propaganda o reclutando nuevos miembros en un contexto geopolítico , específicamente en la guerra de Gaza”, continuó. “Están utilizando las muertes de civiles y las acciones israelíes como herramienta para reclutar y desarrollar campañas”.

Ngoc Anh (según DW)

Fuente: https://www.congluan.vn/khung-bo-is-va-al-qaeda-su-dung-ai-de-tuyen-truyen-chu-nghia-cuc-doan-post303035.html