Untersuchungen von Google DeepMind zufolge kommt es fast doppelt so häufig vor, dass Bilder, Videos und Audiodateien erstellt werden, die Menschen imitieren, wie dass mithilfe von Tools wie KI-Chatbots Fehlinformationen verbreitet werden.
Die Analyse ergab, dass das häufigste Ziel von Akteuren, die synthetische KI missbrauchen, darin besteht, die öffentliche Meinung zu formen oder zu beeinflussen (27 % der Nutzungen). Dies gibt Anlass zur Sorge, wie Deepfakes in diesem Jahr Wahlen auf der ganzen Welt beeinflussen könnten.
Vor der Parlamentswahl tauchten gefälschte Kunstwerke des britischen Premierministers Rishi Sunak auf TikTok und Instagram auf. Foto: AFP
Deepfakes des britischen Premierministers Rishi Sunak und anderer globaler Führungspersönlichkeiten sind in den letzten Monaten auf TikTok, X und Instagram aufgetaucht. Nächste Woche finden in Großbritannien Parlamentswahlen statt.
Es gibt Bedenken, dass die Nutzer derartige Inhalte trotz der Bemühungen der sozialen Medien, sie zu kennzeichnen oder zu entfernen, möglicherweise nicht als Fälschung erkennen und dass ihre Verbreitung Einfluss auf die Wählerschaft haben könnte.
Ardi Janjeva, wissenschaftlicher Mitarbeiter am Alan Turing Institute, bezeichnete die Ergebnisse der Studie als „besonders relevant“. Sie geht davon aus, dass durch KI generierte öffentliche Informationen „unser gemeinsames Verständnis dergesellschaftspolitischen Realität verzerren“ können.
„Auch wenn wir uns über die Auswirkungen von Deepfakes auf das Wahlverhalten nicht sicher sind, kann diese Verzerrung kurzfristig schwer zu erkennen sein und birgt langfristige Risiken für die Demokratie“, fügte Janjeva hinzu.
„Es gab viele Bedenken hinsichtlich der recht ausgeklügelten Cyberangriffe, die mit diesen Tools durchgeführt werden“, sagte die Forscherin Nahema Marchal, Hauptautorin der Studie bei Google DeepMind.
Forscher von Google DeepMind und Jigsaw analysierten zwischen Januar 2023 und März 2024 etwa 200 Fälle von KI-Missbrauch aus den sozialen Netzwerken X und Reddit sowie aus Online-Blogs und Medienberichten über Missbrauch.
Das zweithäufigste Motiv für Missbrauch ist die Monetarisierung. Dazu gehören die Erstellung von Nacktfotos von echten Menschen oder der Einsatz von KI zur Generierung unterschiedlicher Inhalte, wie beispielsweise Fake-News-Artikel. In den meisten Fällen kommen leicht zugängliche Tools zum Einsatz, die nur minimales technisches Fachwissen erfordern. Das bedeutet, dass viele Kriminelle KI kreativ missbrauchen können.
Ngoc Anh (laut FT)
[Anzeige_2]
Quelle: https://www.congluan.vn/nghien-cuu-deepfake-chinh-tri-dung-dau-trong-danh-sach-su-dung-ai-doc-hai-post300851.html
Kommentar (0)