ISIS och al-Qaida-terrorister använder AI för att sprida extremistisk propaganda

Ökningen av extremister som använder AI

Under det senaste året har observatörer från ett antal extremistiska övervakningsorganisationer rapporterat om hur IS och andra extremistgrupper uppmuntrar anhängare att använda nya digitala verktyg.

I februari meddelade en al-Qaida-kopplad grupp att de skulle börja hålla AI-workshops online. Senare släppte de en guide om hur man använder en AI-chatbot.

I mars, efter att en IS-ansluten grupp utfört en terroristattack mot en teater i Moskva som dödade fler än 135 personer, skapade en av gruppens anhängare en falsk nyhetsartikel om händelsen och publicerade den fyra dagar efter attacken.

Tidigare denna månad grep poliser från Spaniens inrikesministerium nio unga män för att ha delat propagandamaterial som hyllade IS-gruppen, varav en beskrevs som fokuserad på "extremistiskt multimediainnehåll med hjälp av specialiserade redigeringsprogram drivna av artificiell intelligens".

”Både al-Qaida och IS använder AI som ett komplement till officiell propaganda”, säger Moustafa Ayad, verkställande direktör för Afrika, Mellanöstern och Asien vid det Londonbaserade Institute for Strategic Dialogue (ISD), som studerar extremism i alla dess former.

Han tillade att sättet som detta propagandainnehåll visas på kanske inte upptäcks av innehållsmoderatorer på populära sociala medieplattformar.

Extremistgrupper utnyttjar alltmer nya teknologier för skadliga syften. Foto: Tim Goode

Extremister är bland de tidiga som anammat AI-teknik.

När extremistgruppen ISIS först dök upp runt 2014 gjorde de propagandavideor med ganska höga produktionsvärden för att skrämma fiender och rekrytera anhängare till gruppen.

"Terroristgrupper och deras anhängare fortsätter att vara tidiga användare av teknik för att tjäna sina intressen", noterade Ayad.

Vakthundsgrupper har beskrivit en mängd olika sätt som extremistgrupper använder AI. Förutom propaganda kan de också använda chatbotar byggda från stora språkmodeller, som ChatGPT, för att kommunicera med potentiella rekryter.

Det finns också oro för att extremister kan använda AI-verktyg för att utföra digitala eller cyberattacker eller hjälpa dem att planera verkliga terroristattacker.

"Jag vet inte i detta skede om användningen av AI av utländska terroristorganisationer och deras anhängare är farligare än propagandakampanjer som involverar urskillningslösa dödande av civila och attacker mot säkerhetsstyrkor", sade ISD:s Ayad.

”Just nu är det större hotet att dessa grupper faktiskt utför attacker, sprider propaganda eller rekryterar nya medlemmar i ett geopolitiskt sammanhang, särskilt kriget i Gaza”, fortsatte han. ”De använder civila dödsfall och israeliska handlingar som ett verktyg för att rekrytera och bygga kampanjer.”

Ngoc Anh (enligt DW)

Källa: https://www.congluan.vn/khung-bo-is-va-al-qaeda-su-dung-ai-de-tuyen-truyen-chu-nghia-cuc-doan-post303035.html