Politische Deepfakes stehen an der Spitze der Liste böswilliger KI-Anwendungen

Untersuchungen von Google DeepMind zufolge kommt es fast doppelt so häufig vor, dass Bilder, Videos und Audiodateien erstellt werden, die Menschen imitieren, wie dass mithilfe von Tools wie KI-Chatbots Fehlinformationen verbreitet werden.

Die Analyse ergab, dass das häufigste Ziel von Akteuren, die synthetische KI missbrauchen, darin besteht, die öffentliche Meinung zu formen oder zu beeinflussen. Diese Zahl entspricht 27 % der Nutzung und gibt Anlass zur Sorge, wie Deepfakes die Wahlen in diesem Jahr weltweit beeinflussen könnten.

Vor den Parlamentswahlen sind auf TikTok und Instagram Fakes des britischen Premierministers Rishi Sunak aufgetaucht. Foto: AFP

In den letzten Monaten sind Deepfakes des britischen Schatzkanzlers Rishi Sunak und anderer globaler Führungspersönlichkeiten auf TikTok, X und Instagram aufgetaucht. Die britischen Wähler werden nächste Woche zu den Parlamentswahlen an die Urnen gehen.

Es gibt Bedenken, dass die Nutzer derartige Inhalte trotz der Bemühungen der sozialen Medien, sie zu kennzeichnen oder zu entfernen, möglicherweise nicht als Fälschung erkennen und dass ihre Verbreitung Einfluss auf die Wählerschaft haben könnte.

Ardi Janjeva, wissenschaftlicher Mitarbeiter am Alan Turing Institute, bezeichnete die Ergebnisse der Studie als „besonders relevant“. Sie geht davon aus, dass durch KI generierte öffentliche Informationen „unser gemeinsames Verständnis der gesellschaftspolitischen Realität verzerren“ können.

„Auch wenn wir uns über die Auswirkungen von Deepfakes auf das Wahlverhalten nicht sicher sind, kann diese Verzerrung kurzfristig schwer zu erkennen sein und birgt langfristige Risiken für die Demokratie“, fügte Janjeva hinzu.

„Es gab viele Bedenken hinsichtlich der recht ausgeklügelten Cyberangriffe, die mit diesen Tools durchgeführt werden“, sagte die Forscherin Nahema Marchal, Hauptautorin der Studie bei Google DeepMind.

Forscher von Google DeepMind und Jigsaw analysierten zwischen Januar 2023 und März 2024 etwa 200 Fälle von KI-Missbrauch aus den sozialen Netzwerken X und Reddit sowie aus Online-Blogs und Medienberichten über Missbrauch.

Das zweithäufigste Motiv für Missbrauch ist die Monetarisierung. Dazu gehört das Erstellen von Nacktfotos von echten Menschen oder die Verwendung von KI zur Generierung unterschiedlichster Inhalte, beispielsweise gefälschter Nachrichtenartikel. In den meisten Szenarien werden zugängliche Tools verwendet, die „nur minimales technisches Fachwissen erfordern“, was bedeutet, dass viele böswillige Akteure kreative KI missbrauchen können.

Ngoc Anh (laut FT)

Quelle: https://www.congluan.vn/nghien-cuu-deepfake-chinh-tri-dung-dau-trong-danh-sach-su-dung-ai-doc-hai-post300851.html