Wie man Betrugsversuche erkennt, die Deepfake-Technologie ausnutzen.

Deepfakes sind mittlerweile ein großes Problem, da die Zahl der Betrugsfälle, die diese Technologie nutzen, ständig zunimmt.

Nach Recherchen in Darknet-Foren, in denen Cyberkriminelle häufig aktiv sind, stellten Sicherheitsexperten fest, dass so viele Kriminelle Deepfake-Software für Betrugszwecke einsetzen, dass die Nachfrage das derzeit auf dem Markt erhältliche Angebot an Deepfake-Software bei Weitem übersteigt.

Da die Nachfrage das Angebot übersteigt, prognostizieren die Experten von Kaspersky einen Anstieg von Deepfake-Betrügereien mit immer vielfältigeren und ausgefeilteren Methoden: von der Bereitstellung hochwertiger Imitationsvideos bis hin zur Verwendung von Prominentenbildern in gefälschten Live-Streams in sozialen Medien, bei denen den Opfern versprochen wird, den überwiesenen Betrag zu verdoppeln.

Laut dem Informationsreferenzsystem Regula sind 37 % der Unternehmen weltweit Opfer von Deepfake-Betrug mit Spracherkennung geworden, und 29 % sind Opfer von Deepfake-Betrug mit Videoerkennung geworden.

Diese Technologie hat sich zu einer Bedrohung für die Cybersicherheit Vietnams entwickelt, da Cyberkriminelle häufig gefälschte Videoanrufe nutzen, um sich als Personen auszugeben und sich Geld von deren Verwandten und Freunden zu leihen.

Ein Deepfake-Videoanruf kann nur etwa eine Minute dauern, was es den Opfern sehr schwer macht, zwischen einem echten und einem gefälschten Anruf zu unterscheiden.

Deepfakes entwickeln sich zunehmend zu einem „Albtraum“ bei ausgeklügelten Online-Betrügereien.

„ Deepfakes sind zu einem Albtraum für Frauen und die Gesellschaft geworden. Cyberkriminelle nutzen künstliche Intelligenz (KI), um die Gesichter von Opfern in pornografische Bilder und Videos sowie in Propagandakampagnen einzufügen.“

„Diese Formen der Manipulation zielen darauf ab, die öffentliche Meinung durch die Verbreitung von Fehlinformationen zu kontrollieren und sogar den Ruf von Organisationen oder Einzelpersonen zu schädigen“, erklärte Frau Vo Duong Tu Diem, Regionaldirektorin von Kaspersky Vietnam.

Obwohl KI von Kriminellen für schändliche Zwecke missbraucht wird, können Privatpersonen und Unternehmen künstliche Intelligenz dennoch nutzen, um Deepfakes zu erkennen und so die Wahrscheinlichkeit erfolgreicher Betrugsversuche zu verringern.

Demnach stehen den Nutzern mehrere nützliche Lösungen zum Schutz vor Betrug zur Verfügung, beispielsweise die Verwendung von KI-generierter Inhaltserkennungssoftware (die mithilfe fortschrittlicher Algorithmen analysiert und bestimmt, inwieweit Bilder, Videos oder Audiodateien bearbeitet wurden).

Für Deepfake-Videos gibt es mittlerweile Tools, die helfen, nicht übereinstimmende Mund- und Sprechbewegungen zu erkennen. Einige Programme sind sogar so leistungsstark, dass sie durch die Analyse der Videoauflösung abnormale Blutflüsse unter der Haut feststellen können, da sich die Farbe der Venen im Körper verändert, wenn das Herz Blut pumpt.

Wasserzeichen dienen zudem als Kennzeichnung in Bildern, Videos usw. und helfen Urhebern, das Urheberrecht ihrer KI-Produkte zu schützen. Diese Funktion kann im Kampf gegen Deepfakes wirksam sein, da sie die Rückverfolgung der Plattform ermöglicht, die die künstliche Intelligenz erstellt hat. Technisch versierte Nutzer können Wege finden, die Quelle der Inhalte zu ermitteln und zu vergleichen, wie die Originaldaten durch die KI verändert wurden.

Aktuell nutzen einige neue Technologien Verschlüsselungsalgorithmen, um in festgelegten Zeitabständen Hashwerte in das Video einzufügen. Wurde das Video bearbeitet, ändert sich der Hashwert, sodass Nutzer überprüfen können, ob der Inhalt manipuliert wurde.

Früher gab es einige Richtlinien zur Erkennung von Anomalien in Videos, wie z. B. Farbverzerrungen, unnatürliche Muskelbewegungen, Augenbewegungen usw. Da die KI jedoch immer intelligenter wird, liefern diese Werte nicht immer genaue Ergebnisse.

Die Überprüfung der Glaubwürdigkeit von Videos beruht nicht mehr auf visueller Inspektion, sondern erfordert technologische Hilfsmittel, die dazu dienen, gefälschte Inhalte zu verhindern und aufzudecken.

Khanh Linh

Quelle