Terroristen des IS und Al-Kaida nutzen KI zur Verbreitung extremistischer Propaganda

Der Aufstieg von Extremisten, die KI nutzen

Im vergangenen Jahr berichteten Beobachter mehrerer Organisationen zur Beobachtung extremistischer Gruppen, wie der IS und andere extremistische Gruppen ihre Anhänger dazu ermutigen, neue digitale Tools zu verwenden.

Im Februar kündigte eine mit Al-Kaida verbundene Gruppe an, Online-Workshops zum Thema KI zu veranstalten. Später veröffentlichte sie einen Leitfaden zur Nutzung eines KI-Chatbots.

Im März hatte ein IS-Ableger einen Terroranschlag auf ein Moskauer Theater verübt, bei dem über 135 Menschen ums Leben kamen. Einer der Anhänger der Gruppe verfasste eine Fake-News-Geschichte über das Ereignis und veröffentlichte sie vier Tage nach dem Anschlag.

Anfang des Monats verhafteten Beamte des spanischen Innenministeriums neun junge Männer, weil sie Propagandamaterial verbreitet hatten, das die IS-Gruppe lobte. Einer von ihnen konzentrierte sich auf „extremistische Multimedia-Inhalte mithilfe spezieller Bearbeitungsanwendungen mit künstlicher Intelligenz“.

„Sowohl al-Qaida als auch der IS nutzen KI als Ergänzung zur offiziellen Propaganda“, sagte Moustafa Ayad, Exekutivdirektor für Afrika, den Nahen Osten und Asien am in London ansässigen Institute for Strategic Dialogue (ISD), das Extremismus in all seinen Formen untersucht.

Er fügte hinzu, dass die Art und Weise, wie diese Propagandainhalte angezeigt werden, von den Inhaltsmoderatoren auf beliebten Social-Media-Plattformen möglicherweise nicht erkannt wird.

Extremistische Gruppen nutzen neue Technologien zunehmend für böswillige Zwecke. Foto: Tim Goode

Extremisten gehören zu den ersten Anwendern der KI-Technologie.

Als die extremistische Gruppe ISIS etwa im Jahr 2014 erstmals auftauchte, drehte sie Propagandavideos mit relativ hohem Produktionsaufwand, um ihre Feinde einzuschüchtern und Anhänger für die Gruppe zu rekrutieren.

„Terrorgruppen und ihre Unterstützer sind weiterhin die ersten, die Technologien nutzen, um ihre Interessen zu verfolgen“, bemerkte Ayad.

Überwachungsgruppen haben verschiedene Möglichkeiten beschrieben, wie extremistische Gruppen KI einsetzen. Neben Propaganda können sie auch Chatbots verwenden, die auf großen Sprachmodellen wie ChatGPT basieren, um mit potenziellen Rekruten zu kommunizieren.

Es gibt auch Bedenken, dass Extremisten KI-Tools nutzen könnten, um digitale oder Cyberangriffe durchzuführen oder ihnen bei der Planung realer Terroranschläge zu helfen.

„Ich weiß zum jetzigen Zeitpunkt nicht, ob der Einsatz von KI durch ausländische Terrororganisationen und ihre Unterstützer gefährlicher ist als Propagandakampagnen, bei denen es um wahllose Tötungen von Zivilisten und Angriffe auf Sicherheitskräfte geht“, sagte Ayad vom ISD.

„Die größere Bedrohung besteht derzeit darin, dass diese Gruppen tatsächlich Anschläge verüben, Propaganda verbreiten oder im geopolitischen Kontext, insbesondere im Gaza-Krieg, neue Mitglieder rekrutieren“, fuhr er fort. „Sie nutzen zivile Opfer und israelische Aktionen als Mittel zur Rekrutierung und zum Aufbau von Kampagnen.“

Ngoc Anh (laut DW)

Quelle: https://www.congluan.vn/khung-bo-is-va-al-qaeda-su-dung-ai-de-tuyen-truyen-chu-nghia-cuc-doan-post303035.html