Deepfake des Gaza-Krieges weckt Bedenken hinsichtlich der KI

[Anzeige_1]

Die Bilder wurden im Internet millionenfach angesehen und sind Deepfakes, die mithilfe künstlicher Intelligenz erstellt wurden. Wer genau hinsieht, erkennt verräterische Anzeichen: seltsam gekrümmte Finger oder Augen, die in einem unnatürlichen Licht leuchten.

Die Empörung, die diese Deepfake-Bilder auslösen, ist jedoch real.

Fotos aus dem Krieg zwischen Israel und der Hamas veranschaulichen auf anschauliche und schmerzhafte Weise die Gefahren der KI als Propagandainstrument, das zur Erzeugung lebensechter Bilder eingesetzt wird.

Seit Beginn der Kämpfe im vergangenen Monat werden in den sozialen Medien digital manipulierte Fotos verwendet, um falsche Angaben zur Verantwortung für Opfer zu machen oder die Menschen über Gräueltaten zu täuschen, die nie stattgefunden haben.

Deepfake-Bilder des Gaza-Krieges geben Anlass zu neuer Sorge Bild 1 — Ein Palästinenser hebt Habseligkeiten aus den Trümmern im Gazastreifen auf. AP-Foto.

Technologische Fortschritte finden immer häufiger und ohne große Kontrolle statt. Das verdeutlicht das Risiko, dass KI zu einer weiteren Waffe wird, und bietet einen ersten Einblick in zukünftige Konflikte, Wahlen und andere wichtige Ereignisse.

„Die Dinge werden noch viel schlimmer werden, bevor sie besser werden“, sagte Jean-Claude Goldenstein, CEO von CREOpoint, einem in San Francisco und Paris ansässigen Technologieunternehmen, das KI einsetzt, um die Gültigkeit von Online-Beschwerden zu bewerten.

Sein Unternehmen hat eine Datenbank mit den viralsten Deepfake-Bildern aus Gaza zusammengestellt. „Bilder, Videos und Audio: Mit kreativer KI ist dies ein Fortschritt, den es so noch nie gegeben hat“, sagte er.

Imran Ahmed, CEO des Center for Countering Digital Hate, einer gemeinnützigen Organisation, die kriegsbezogene Falschinformationen verfolgt, sagte, die Propagandisten, die solche Bilder erstellen, seien geschickt darin, die tiefsten Impulse und Ängste der Menschen anzusprechen.

Je erschreckender das Bild, desto wahrscheinlicher ist es, dass sich die Nutzer daran erinnern und es teilen, wodurch unabsichtlich weitere Fehlinformationen verbreitet werden. Ähnliche, von KI generierte Fehlinformationen verbreiten sich seit dem Russland-Ukraine-Konflikt viral.

Jeder neue Konflikt oder jede Wahlsaison bietet neue Möglichkeiten für die Verbreitung von Desinformation. Viele KI-Experten und Politikwissenschaftler warnen daher vor Risiken im kommenden Jahr, wenn in mehreren Ländern wichtige Wahlen stattfinden, darunter in den USA, Indien, Pakistan, der Ukraine, Indonesien und Mexiko.

Das Risiko, dass KI und soziale Medien dazu genutzt werden könnten, amerikanische Wähler zu belügen, hat Abgeordnete beider Parteien in Washington alarmiert. Bei einer kürzlichen Anhörung zu den Gefahren der Deepfake-Technologie sagte der demokratische US-Abgeordnete Gerry Connolly aus Virginia, die USA müssten in die Entwicklung von KI-Tools investieren, die anderen KI-Technologien entgegenwirken sollen.

Um wirksam auf die politischen und sozialen Herausforderungen zu reagieren, die durch KI-generierte Fehlinformationen entstehen, sind sowohl bessere Technologien als auch bessere Regulierungen erforderlich, sagte David Doermann, Professor an der University of Buffalo.

Kommentar (0)