Deepfakes sind weit verbreitet – niemand ist vor KI-Imitationstricks sicher.

Stimmenimitation, Gesichtsimitation, Lippensynchronisation … Künstliche Intelligenz dient nicht mehr nur der Arbeit und Unterhaltung, sondern entwickelt sich zu einem gefährlichen Werkzeug für Betrug. Bilder von Prominenten, Ärzten und sogar Mönchen werden von KI imitiert, um Produkte in sozialen Netzwerken zu verkaufen. Die Betroffenen merken nichts, und die Käufer verlieren das Vertrauen.

Sich ein "geliehenes Gesicht" machen, um Waren zu verkaufen

„Ganz gleich, wie Ihr Knie ursprünglich beschaffen war, wenden Sie einfach unsere Methode an. Wir garantieren Ihnen eine deutliche Besserung innerhalb von 7 Tagen. Sollte die Behandlung völlig wirkungslos bleiben, erstatte ich Ihnen als aufrichtige Entschuldigung 1 Milliarde VND. Falls Sie tatsächlich keine Wirkung feststellen, erhalten Sie Ihr Geld zu 100 % zurück, und ich persönlich bin bereit, Ihnen 1 Milliarde VND zu erstatten. Nicht jeder traut sich so etwas zu versprechen.“ So wirbt eine bekannte Sängerin für eine Massagecreme zur Linderung von Gelenkschmerzen. Bemerkenswert ist jedoch, dass diese Werbung vollständig von KI erstellt wurde.

Der oben genannte Werbeclip wurde von einem TikTok-Account namens LShop verwendet. Bild, Stimme und Körpersprache der Sängerin wurden dabei so realistisch imitiert, dass dies nur bei genauer Betrachtung erkennbar ist. Dieser Account hat fast 9.000 Follower, 67.000 Likes und jedes seiner Videos wird tausendfach angesehen. Allein das „ Werbevideo “, das das Bild der Sängerin verwendet, erhielt über 1.000 Likes und fast 100 Kommentare mit Kaufaufforderungen.

Für dasselbe Massagecreme-Produkt erstellten Vertriebskanäle eine weitere Deepfake-Version, diesmal in Form eines Arztes. In dem Clip versicherte die Person: „Ich bin der renommierteste Orthopäde in Hanoi und garantiere, dass selbst schwerste Meniskusrisse in nur drei Tagen vollständig ausheilen können. Dieses Gel ist von der angesehensten orthopädischen Vereinigung Vietnams zertifiziert.“ Diese Aussage wurde von KI für eine Reihe weiterer „Ärzte“ nachgestellt, sodass Zuschauer sie leicht für echt halten konnten.

Der Clip erhielt fast 4.000 Likes und über 120 Kommentare. Als wir jedoch per SMS bestellen wollten, reagierte der Account weder auf Anfragen noch auf Kommentare. Das Produkt blieb einfach im Warenkorb zum Direktkauf. Auffällig war, dass das Produkt aus China stammte und die Produktinformationen sehr vage waren.

Von Sängern über Prominente bis hin zu Ärzten – sie alle wurden schon von Vertriebskanälen imitiert, die KI-gestützte Clips erstellen, um gesundheitsbezogene Produkte zu verkaufen.

Doch damit nicht genug: Der Deepfake-Trick hat sich auch auf spirituelle Themen ausgeweitet. Ein TikTok-Account namens Phat Phap NM teilte nicht nur Vorträge von Meister TPH, sondern nutzte auch KI-Technologie, um Bilder des „Meisters“ zu erstellen, auf denen er Produkte wie Bodhi-Blätter und Adlerholzarmbänder verkauft.

Als Zuschauer in den Kommentaren Kaufangebote hinterließen, antwortete der Kanal: „Falls etwas nicht Ihren Erwartungen entspricht, besuchen Sie den Bereich „Angebote“ in meinem Konto und suchen Sie sich aus, was Sie benötigen. Seien Sie beim Kleingeld nicht geizig und ignorieren Sie das Größere nicht.“ Unmittelbar danach sah sich der Mönch selbst gezwungen, klarzustellen, dass er niemals für solche Produkte geworben oder mit ihnen zu tun gehabt habe.

Die Grenze zwischen Kreativität und Urheberrechtsverletzung

Der Cybersicherheitsexperte Ngo Minh Hieu (Hieu PC) vom Nationalen Zentrum für Cybersicherheitsüberwachung (NCSC) erklärte, dass gefälschte Werbeclips, die in sozialen Netzwerken kursieren, hauptsächlich mit Deepfake-Software erstellt werden. Diese Software ist weit verbreitet; viele Anbieter bieten sogar kostengünstige und benutzerfreundliche Pakete an. Obwohl es positive Anwendungsbereiche in der digitalen Content-Erstellung und Medienproduktion gibt, liegt das Problem laut Hieu darin, dass einige Akteure diese Technologie für negative Zwecke wie Betrug, Identitätsfälschung, die Verbreitung von Falschnachrichten oder die Diffamierung anderer durch täuschend echt wirkende Videos missbrauchen.

Herr Hieu nannte auch einige Anzeichen, die helfen, Deepfake-Clips zu erkennen, wie zum Beispiel etwas steife Gesichtsausdrücke im Video, Mundformen und -bewegungen, die nicht zum Dialog passen... Herr Hieu warnte davor, dass es schon schwerwiegendere Fälle gegeben habe, in denen KI eingesetzt wurde, um die Gesichter von Opfern in sensible Videos einzufügen, um sie einzuschüchtern, zu nötigen und sich zu bereichern.

Laut Rechtsanwältin Tran Duc Phuong von der Anwaltskammer Ho-Chi-Minh-Stadt stellt die Verwendung von KI zur Erstellung von Bildern von Prominenten (oder bestimmten Personen) ohne deren Einwilligung eine Verletzung der Persönlichkeitsrechte dar, insbesondere des Rechts am eigenen Bild, wie in Artikel 32 des Zivilgesetzbuches von 2015 festgelegt. Das Gesetz besagt: „Jede Person hat das Recht auf ihr eigenes Bild. Die Verwendung des Bildes einer Person bedarf deren Zustimmung. Die Verwendung eines Bildes zu kommerziellen Zwecken muss der Person, deren Bild verwendet wird, eine Entschädigung zusprechen, sofern die Parteien keine abweichende Vereinbarung getroffen haben.“

Wer als Inhaber eines Social-Media-Kontos ohne Genehmigung KI-generierte Bilder aus realen Fotos, alten Videos usw. für Werbe- oder Verkaufszwecke verwendet, verstößt gegen geltendes Recht. Bei einem Verstoß gegen die Bestimmungen dieses Artikels hat der Bildinhaber das Recht, gerichtlich zu ersuchen, den Rechtsverletzer, die zuständigen Behörden, Organisationen und Einzelpersonen zur Entfernung, Vernichtung und Beendigung der Bildnutzung zu verpflichten, Schadensersatz zu fordern und weitere gesetzlich vorgesehene Maßnahmen zu ergreifen.

CAM NUONG

Quelle: https://www.sggp.org.vn/deepfake-tran-lan-khong-ai-an-toan-truoc-chieu-tro-gia-danh-bang-ai-post803313.html