Terroristen van ISIS en Al-Qaeda gebruiken AI om extremistische propaganda te verspreiden

De opkomst van extremisten die AI gebruiken

Het afgelopen jaar hebben waarnemers van een aantal organisaties die extremistische bewegingen in de gaten houden, gerapporteerd over de manier waarop IS en andere extremistische groeperingen hun volgers aanmoedigen om nieuwe digitale hulpmiddelen te gebruiken.

In februari kondigde een aan al-Qaida gelieerde groep aan dat ze online AI-workshops zou gaan organiseren. Later publiceerden ze een handleiding over het gebruik van een AI-chatbot.

In maart, nadat een IS-filiaal een terroristische aanslag pleegde op een theater in Moskou, waarbij meer dan 135 mensen omkwamen, creëerde een van de volgers van de groep een nepnieuwsbericht over de gebeurtenis en plaatste dit vier dagen na de aanslag.

Eerder deze maand arresteerden agenten van het Spaanse ministerie van Binnenlandse Zaken negen jongemannen omdat ze propagandamateriaal hadden gedeeld waarin de IS-groep werd geprezen. Een van hen zou zich hebben gericht op "extremistische multimediacontent met behulp van gespecialiseerde bewerkingstoepassingen die worden aangestuurd door kunstmatige intelligentie."

"Zowel Al-Qaeda als IS gebruiken AI als aanvulling op de officiële propaganda", aldus Moustafa Ayad, uitvoerend directeur voor Afrika, het Midden-Oosten en Azië bij het in Londen gevestigde Institute for Strategic Dialogue (ISD), dat extremisme in al zijn vormen bestudeert.

Hij voegde eraan toe dat de manier waarop deze propaganda-inhoud wordt weergegeven, mogelijk niet wordt gedetecteerd door contentmoderators op populaire sociale-mediaplatforms.

Extremistische groeperingen misbruiken opkomende technologieën steeds vaker voor kwaadaardige doeleinden. Foto: Tim Goode

Extremisten behoren tot de pioniers op het gebied van AI-technologie.

Toen de extremistische groepering ISIS rond 2014 voor het eerst opkwam, maakten ze propagandavideo 's met een vrij hoge productiewaarde om vijanden te intimideren en volgelingen te werven om lid te worden van de groep.

"Terroristische groeperingen en hun aanhangers zijn nog steeds degenen die als eerste technologie inzetten om hun eigen belangen te dienen", merkte Ayad op.

Waakhondengroepen hebben verschillende manieren beschreven waarop extremistische groeperingen AI gebruiken. Naast propaganda kunnen ze ook chatbots gebruiken die zijn gebouwd op basis van grote taalmodellen, zoals ChatGPT, om met potentiële rekruten te communiceren.

Er zijn ook zorgen dat extremisten AI-tools kunnen gebruiken om digitale of cyberaanvallen uit te voeren of om hen te helpen bij het plannen van echte terroristische aanslagen.

"Ik weet op dit moment niet of het gebruik van AI door buitenlandse terroristische organisaties en hun aanhangers gevaarlijker is dan propagandacampagnes die willekeurige moorden op burgers en aanvallen op veiligheidstroepen omvatten", aldus Ayad van de ISD.

"De grootste dreiging is momenteel dat deze groepen daadwerkelijk aanvallen uitvoeren, propaganda verspreiden of nieuwe leden rekruteren in een geopolitieke context, met name de oorlog in Gaza", vervolgde hij. "Ze gebruiken burgerdoden en Israëlische acties als instrument om te rekruteren en campagnes op te zetten."

Ngoc Anh (volgens DW)

Bron: https://www.congluan.vn/khung-bo-is-va-al-qaeda-su-dung-ai-de-tuyen-truyen-chu-nghia-cuc-doan-post303035.html