Experten empfehlen, ein Krisenmanagementszenario speziell für Deepfakes vorzubereiten.

Was sagen Experten zum Begriff Deepfake und dem jüngsten Problem der Verbreitung gefälschter Nacktfotos von Prominenten, wie beispielsweise der Sängerin Taylor Swift auf X...?

Nachfolgend die Meinungen zweier Experten der RMIT University zu den schädlichen Auswirkungen von Deepfakes und Lösungsvorschläge zu diesem Problem:

Chuyên gia khuyến cáo cách chuẩn bị trước kịch bản xử lý khủng hoảng dành riêng cho deepfake

Dr. Jonathan Crellin (links) und Dr. Nguyen Van Thang Long (rechts). (Quelle: RMIT University)

Cyberkriminelle nutzen neue Technologien auf unvorhergesehene Weise aus

Dr. Jonathan Crellin, Leiter der Abteilung Informationssicherheit, Fakultät für Naturwissenschaften , Ingenieurwesen und Technologie, RMIT University :

Ein Deepfake ist ein maschinell erzeugtes Bild, das Bilder oder Videos aus verschiedenen Quellen kombinieren kann und so ein sehr realistisches Bild, Video oder sogar Audio erzeugt.

Deepfake basiert auf einer Technik der künstlichen Intelligenz namens maschinelles Lernen, die Elemente wie das Gesicht einer Person in ein anderes Bild oder Video einfügen und ersetzen kann.

Ein Beispiel für die Verwendung von Deepfakes ist die Kombination von pornografischen Inhalten mit Fotos von Taylor Swift, um gefälschte Bilder zu erzeugen.

Hierfür benötigte der Drahtzieher eine Reihe von Bildern, damit die Software die Gesichtsausdrücke der Sängerin erfassen und diese dann mit pornografischen Inhalten kombinieren konnte, um obszöne Fotos zu erstellen und so das Image der Sängerin zu schädigen.

Tatsächlich kursieren Gerüchte, dass diese Fotos von einer Telegram-Gruppe veröffentlicht wurden und mit dem Microsoft Designer-Tool mit integrierter KI-Unterstützung erstellt wurden.

Jeder kann zum Opfer werden, denn die Täter benötigen lediglich ein Bild, ein Video oder eine Audioaufnahme der Person, deren Identität sie annehmen.

Falschnachrichten in vielen Formen bergen das Potenzial, zur Verbreitung von Falschmeldungen missbraucht zu werden, und man kann mit Sicherheit sagen, dass die bevorstehende US-Präsidentschaftswahl von solchen Falschnachrichten geprägt sein wird.

Derzeit bemühen sich Gesetzgeber weltweit um die Verabschiedung von Gesetzen gegen diese Art von Bildern.

In den Vereinigten Staaten werden verschiedene Ansätze im Bereich der Gesetzgebung verfolgt, beispielsweise die Nutzung zivilrechtlicher Klagen oder Gesetze zur Bekämpfung der „Verbreitung von sexuell expliziten Bildern einer Person, die von KI ohne die Zustimmung dieser Person erzeugt wurden“.

China hat außerdem neue Vorschriften eingeführt, die die Strafverfolgung derjenigen ermöglichen, die KI-generierte Bilder verbreiten.

Im Vereinigten Königreich ist das Teilen von Deepfake-Inhalten durch das Online-Sicherheitsgesetz illegal geworden.

Wie lässt sich dies erkennen oder verhindern?

Der erste Schritt besteht darin, die Anzahl Ihrer online verfügbaren Fotos, Videos oder Audioaufnahmen zu reduzieren. Teilen Sie diese nur mit Personen, die Sie kennen, und veröffentlichen Sie sie nicht öffentlich im Internet. Sobald etwas im Internet ist, lässt es sich kaum noch entfernen.

Die zweite Möglichkeit besteht darin, sich mit der Familie auf ein geheimes Wort zu einigen, um den Anruf zu authentifizieren und so das Risiko zu verringern, einem gefälschten Anruf zum Opfer zu fallen.

Bilder, insbesondere Videos, können seltsame (inszenierte) Fehler aufweisen. Wenn Sie solche Fehler entdecken, ist die Wahrscheinlichkeit hoch, dass das Bild oder der Ton gefälscht wurde.

Eine weitere Methode, die angewendet werden kann, ist die Suche nach „umgekehrter Bildersuche“ bei Google oder anderen Suchmaschinen, um die Quelle des Originalbildes zu ermitteln.

Die letzte Lektion lautet: Glauben Sie nicht blindlings, was Sie sehen, die Kamera (oder die KI) kann lügen!

Deepfakes stellen eine große Bedrohung für Prominente und Politiker dar.

Dr. Nguyen Van Thang Long, Dozent, Fakultät für Kommunikation und Design, RMIT University :

Angesichts der zunehmenden Verbreitung von Fake News durch Deepfakes benötigen die Medienteams von Prominenten und Politikern Ressourcen, um Fake News zu überwachen und umgehend darauf zu reagieren oder falsche Nachrichten kontinuierlich zu korrigieren.

Werden Deepfakes systematisch mit organisierten Formen von „schmutziger PR“ kombiniert, wird diese Aufgabe aufgrund der Verbreitung widersprüchlicher Informationen noch schwieriger, und Falschmeldungen und negative Nachrichten werden immer häufiger geteilt als positive Nachrichten.

Normalerweise haben Menschen beim Ansehen von Nachrichten in sozialen Netzwerken die Angewohnheit, die Informationen über offizielle Medienkanäle zu überprüfen.

Da Deepfake-Inhalte die sozialen Medien überschwemmen, wird es zunehmend schwieriger und zeitaufwändiger, die Richtigkeit der Nachrichten der etablierten Medien zu überprüfen, was eingehende Recherchen und Verifizierungsmethoden erfordert.

Je länger wir mit der Überprüfung von Nachrichten und Quellen zögern, desto wahrscheinlicher ist es, dass sich falsche, erfundene oder irreführende Informationen aufgrund der rasanten Geschwindigkeit des Teilens und Kommentierens in sozialen Medien verbreiten.

Dies verschärft das zugrundeliegende Problem und birgt das Potenzial, zu sozialen Unruhen zu führen, insbesondere wenn es sich bei den Inhalten um politische Äußerungen, Religion, Geschlechterfragen, Geschäftsstrategien oder makroökonomische Themen handelt.

Im Kontext der Verbreitung von Deepfakes bleibt die effektivste Risikomanagementstrategie die Aufrechterhaltung konsistenter Kommunikationskanäle über gängige Social-Media-Plattformen, Websites oder persönliche Treffen zwischen Unternehmen, Prominenten, Politikern und wichtigen Interessengruppen wie Fans, Presse, Gemeinschaften und Mitarbeitern.

Der verstärkte Einsatz von KI bringt sowohl Vorteile als auch unerwartete neue Probleme mit sich. Illustrationsfoto. (Quelle: Freepik)

Durch die Aufrechterhaltung dieser Kommunikationskanäle wird der Empfang von Informationen über Deepfakes beschleunigt, was eine zeitnahe und effektive Richtigstellung von Gerüchten ermöglicht und Fehlinformationen von vornherein aufdeckt.

Unternehmen, Prominente und Politiker müssen jedoch einen Krisenmanagementplan speziell für Deepfakes entwickeln. Dieser sollte beispielsweise festlegen, wer über welche Medienkanäle berichtet, welche Kriterien für die Überprüfung von Informationen anhand von Beweisen und seriösen Quellen gelten, einen Zeitplan für den Umgang mit Gerüchten erstellen und eine Strategie zur Wiederherstellung des Rufs entwerfen.

Mit einem gut vorbereiteten, methodischen Plan lässt sich die Deepfake-Krise besser bewältigen, wodurch die möglicherweise auftretenden unglücklichen Folgen minimiert werden.

Quelle