Die Dualität der KI

Künstliche Intelligenz (KI) eröffnet viele Möglichkeiten, entwickelt sich aber auch zu einem gefährlichen Werkzeug, wenn sie zur Erstellung gefälschter Deepfake-Videos missbraucht wird. Diese Videos verzerren das Bild von Polizei und Regierung und hetzen die Öffentlichkeit auf. Die raffiniert bearbeiteten Clips untergraben nicht nur das Vertrauen in die Behörden, sondern stellen auch eine ausgeklügelte Form der psychologischen Kriegsführung im Cyberspace dar.

Es ist an der Zeit, dass jeder Nutzer zu einem „digitalen Schutzschild“ wird und bei jedem Klick und jeder Weiterleitung wachsam und verantwortungsbewusst handelt.

Vorteile und die feine Linie der KI

Künstliche Intelligenz ist der Realität so nah wie nie zuvor. Mit wenigen Klicks und kurzen Befehlen lassen sich Stimmen, Bilder und sogar Videos von verblüffendem Realismus erzeugen. KI hilft, Zeit zu sparen, die Kosten der Content-Produktion zu senken und das Zeitalter flexibler digitaler Medien einzuläuten.

Die Möglichkeit, „realistisch zu simulieren“, hat sich jedoch als zweischneidiges Schwert erwiesen. In letzter Zeit tauchen in sozialen Netzwerken immer wieder Videos auf, die mithilfe von Deepfake-Technologie erstellt wurden. Darin werden Gesichter von Polizeiführern, Bilder von Einsatzkräften in heiklen Fällen usw. ausgeschnitten und eingefügt, mit verzerrten Stimmen versehen, um Missverständnisse zu säen und die Bevölkerung zu spalten.

Inszenierte Bilder wie dieses tauchen immer häufiger in sozialen Netzwerken auf.

In einem auf TikTok kursierenden Clip wurde das Bild eines Polizisten im Dienst mit beleidigenden Äußerungen und dem Hashtag „Fine for the sake of it“ kombiniert, um zu suggerieren, dass der Beamte seine Macht für persönliche Vorteile missbrauche. Viele Nutzer, insbesondere junge Menschen, glaubten diesen Inhalten bereitwillig, da das Bild so realistisch wirkte und die Stimme der Mundform so sehr ähnelte, dass es extrem schwierig war, zwischen echt und inszeniert zu unterscheiden.

Nur weil er seine KI-Kenntnisse „demonstrieren“ wollte, musste ein junger YouTuber aus Dien Bien die Konsequenzen tragen: Er wurde mit einer Geldstrafe belegt und zu einer öffentlichen Entschuldigung gezwungen. Am Nachmittag des 24. Januar gab die Provinzpolizei von Dien Bien bekannt, dass die Abteilung für Cybersicherheit und Bekämpfung von Hightech-Kriminalität gegen Tong Van T. (geb. 2001, wohnhaft im Bezirk Muong Ang) eine Geldstrafe in Höhe von 7,5 Millionen VND verhängt hat. Ihm wurde vorgeworfen, mithilfe von KI ein gefälschtes Video mit verfälschtem Inhalt erstellt und die Verkehrspolizei beleidigt zu haben.

Konkret lud T. am 7. Januar auf dem YouTube-Kanal „Tuyền Vlog“ ein über dreiminütiges Video mit dem schockierenden Titel „Beim Ausgehen wurde ich von der Verkehrspolizei verfolgt“ hoch. In dem Clip wurden mithilfe von KI-Technologie Bilder und Situationen inszeniert, die eine Verfolgungsjagd der Verkehrspolizei simulierten, kombiniert mit Effekten und Kommentaren, die die Behörden beleidigten und verleumdeten.

In Zusammenarbeit mit der Polizei gab T. zu, dass der gesamte Inhalt des Videos ein gefälschtes Produkt war, das lediglich der Unterhaltung diente und die Anwendung von KI-Technologie demonstrieren sollte. Zusätzlich zur Geldstrafe forderten die Behörden T. auf, das gefälschte Video zu entfernen und sich öffentlich auf seinem persönlichen YouTube-Kanal bei der Verkehrspolizei zu entschuldigen.

Im Zeitalter der rasanten Digitalisierung , insbesondere der schnellen Entwicklung künstlicher Intelligenz, nutzen feindselige und reaktionäre Kräfte diese Möglichkeiten aus, um verfälschte Bilder und Geschichten zu verbreiten und so das Ansehen der vietnamesischen Sicherheitskräfte zu schädigen. Das kürzlich in sozialen Netzwerken kursierende Foto, das eine schwangere Frau in Polizeiuniform zeigt, die von zwei Männern mit „Gangster“-Aussehen bedroht wird, ist ein deutliches Beispiel für diese Masche.

Das KI-generierte Foto ging kürzlich in den sozialen Medien viral.

Auf den ersten Blick könnte man dies leicht für eine reale Szene halten, begleitet von einer reißerischen Schlagzeile wie: „Armer Junge rettet schwangere Polizistin vor Gangstern und deckt unerwartet einen Fall auf, der das ganze Land schockiert…“. Tatsächlich handelt es sich jedoch um eine gestellte Szene, möglicherweise aus einem Film oder einer Unterhaltungsproduktion, oder schlimmer noch, um ein KI-generiertes Bild, das die Gefühle der Leser manipulieren und sie dazu bringen soll, Mitleid zu empfinden und die Glaubwürdigkeit polizeilicher Maßnahmen infrage zu stellen.

Noch besorgniserregender ist, dass die Verbreitung solcher Inhalte nicht nur den Ruf und das Ansehen der Volkssicherheitskräfte schädigt, die Tag und Nacht für Sicherheit und Ordnung in der Gesellschaft sorgen, sondern auch eine raffinierte Form der psychologischen Kriegsführung darstellt. Wenn das Vertrauen der Bevölkerung in die Behörden durch falsche Darstellungen untergraben wird, kann das eigentliche Ziel feindlicher Kräfte, den großen nationalen Einheitsblock zu spalten, schrittweise erreicht werden.

Deshalb muss jeder Bürger seine Wachsamkeit erhöhen, über kritisches Denkvermögen und die Fähigkeit verfügen, Falschinformationen zu erkennen und falsche Inhalte entschieden anzuprangern und zu widerlegen, um so zum Schutz der ideologischen Grundlagen und zur Aufrechterhaltung der sozialen Stabilität angesichts der aktuellen Welle schädlicher Informationen im Cyberspace beizutragen.

In Ho-Chi-Minh-Stadt verbreitete sich in den sozialen Medien ein knapp einminütiges Video, das einen Mann in Polizeiuniform zeigt, der in einem Büro ein Geständnis von einem Gesetzesbrecher erpresst. In dem Video ist zu sehen, wie der mutmaßliche Polizist ein rüdes Auftreten an den Tag legt, ständig schreit und beschimpft und dabei auch beleidigende Ausdrücke verwendet, was in der Öffentlichkeit Empörung auslöste.

Unmittelbar nachdem das Video viral ging, leitete die Polizei von Ho-Chi-Minh-Stadt Ermittlungen ein und bestätigte, dass es sich um eine ausgeklügelte Deepfake-Fälschung handelte. Demnach stammte das Gesicht im Video aus der Aufzeichnung einer internen Polizeikonferenz und wurde anschließend mithilfe von KI-Technologie in eine inszenierte Szene eingefügt, um den Zuschauern vorzugaukeln, es handle sich um eine echte Aktion.
Insbesondere enthält der dazugehörige Ton eine bedrohliche, beleidigende Stimme, die nicht die tatsächlichen Worte eines Beamten sind, sondern eine synthetische KI-Stimme, die so programmiert und bearbeitet wurde, dass sie die Gefühle des Zuschauers täuscht.

Der Vorfall ist ein typisches Beispiel für den Einsatz von Deepfake-Technologie zur Verunglimpfung und Diffamierung der Sicherheitskräfte – eine Methode, die von reaktionären und regierungsfeindlichen Kräften im Internet zunehmend angewendet wird. Es ist wichtig zu beachten, dass solche Fälschungen, wenn sie nicht umgehend entlarvt werden, schwerwiegende Folgen haben können: Sie können das Vertrauen der Bevölkerung in die Strafverfolgungsbehörden erschüttern, Widerstand in der Gesellschaft schüren und die Verbreitung von Falschinformationen begünstigen. Dies ist eine deutliche Warnung, wie dringend die Fähigkeit der Medien zur Widerlegung, Erkennung und Bekämpfung von Falschnachrichten verbessert werden muss. Gleichzeitig appelliert es an alle Bürgerinnen und Bürger, wachsam zu sein und unbestätigte Inhalte aus offiziellen Quellen nicht vorschnell zu teilen oder zu kommentieren.

In einem weiteren aktuellen Fall, der den Umgang mit Verstößen in einer Fahrzeugprüfstelle im Süden betrifft, verbreiteten feindselige Personen ein gefälschtes Video, in dem ein Provinzpolizeichef angeblich die fehlbaren Beamten verteidigte. Dieser Clip wurde auf Telegram und anderen sozialen Netzwerken mit dem Titel „Unterstützt von mächtigen Kräften“ verbreitet, war aber tatsächlich ein Produkt von KI und tauchte in keiner Pressekonferenz oder in einem offiziellen Dokument auf.

Im Internet breitet sich still und leise ein gefährlicher Trend aus: Kriminelle nutzen KI-Technologie, um gefälschte Videos zu erstellen, die dem Betrug und der Erpressung dienen. In letzter Zeit sind viele Menschen Opfer geworden, deren Bilder, insbesondere die von angesehenen Persönlichkeiten wie Anwälten, Ärzten und Geschäftsleuten, in Werbevideos zur „Rückgewinnung von online ergaunertem Geld“ verwendet wurden.

In diesen Videos wird KI eingesetzt, um Stimme und Gesicht des Anwalts zu fälschen und so Vertrauen bei den Zuschauern zu erzeugen. Dadurch sollen diese leicht persönliche Daten preisgeben oder Geld an den Betrüger überweisen. Noch gefährlicher ist, dass manche Täter Deepfake-Technologie nutzen, um das Gesicht des Opfers in Sexvideos einzufügen und diese dann an Ehepartner oder Kollegen zu senden. Ziel ist es, die Betroffenen zu bedrohen und zur Geldüberweisung zu zwingen, damit diese die Angelegenheit angeblich geheim halten.

Im März 2025 ereignete sich ein schockierender Vorfall in Hanoi: Ein Opfer wurde aufgefordert, mehrere zehn Millionen Dong zu überweisen, nachdem es ein gefälschtes Sexvideo mit seinem Bild erhalten hatte. In Ho-Chi-Minh-Stadt wurde eine andere Person erpresst und mit bis zu zwei Milliarden Dong bedroht, falls sie die Verbreitung des brisanten Videos verhindern würde. Das Ministerium für Öffentliche Sicherheit schaltete sich ein und identifizierte zahlreiche transnationale kriminelle Gruppen, hauptsächlich aus China und Südostasien, die hinter diesen Machenschaften stecken und gefälschte SIM-Karten, E-Wallets und soziale Netzwerke nutzen, um ihre Identität zu verschleiern.

Dies ist längst kein kleiner Betrug mehr, sondern eine Form der „psychologischen Kriegsführung mit Hightech-Technologie“, die die Angst vor Ehrverlust und dem Verlust sozialer Beziehungen ausnutzt, um Druck auf die Opfer auszuüben. Wer nicht wachsam ist und seine Fähigkeiten zur Erkennung verdächtiger Informationen und ungewöhnlichen Verhaltens nicht verbessert, kann schnell zur Beute von Kriminellen werden, die moderne Technologien einsetzen. Angesichts dieser raffinierten Fälschungswelle muss jeder Bürger wachsam sein, keinesfalls leichtfertig persönliche Informationen preisgeben und bereit sein, Straftaten anzuzeigen, um so zum Schutz der eigenen Sicherheit und der Sicherheit der Gemeinschaft beizutragen.

Um die Bedrohung durch Deepfakes zu bekämpfen, ist ein „digitaler Schutzschild“ der Community erforderlich.

Laut dem Ministerium für Radio, Fernsehen und elektronische Information (Ministerium für Kultur, Sport und Tourismus) mussten digitale Plattformen in Vietnam im Jahr 2024 mehr als 4.000 Videos entfernen, die falsche und verzerrte Informationen enthielten. Die meisten davon waren Produkte, die mithilfe von KI-Technologien wie Deepfakes und Stimmklonen erstellt wurden. Allein TikTok – eine bei jungen Leuten beliebte Plattform – wurde aufgefordert, mehr als 1.300 Deepfake-Clips zu entfernen, die sich hauptsächlich auf Polizei, Regierung und Sozialpolitik bezogen.

Im Zeitalter der rasanten technologischen Entwicklung eröffnet die künstliche Intelligenz bahnbrechende Möglichkeiten, birgt aber auch beispiellose Gefahren, insbesondere Deepfakes mit verzerrten Inhalten, die den Ruf öffentlicher Einrichtungen schädigen. Eine Studie des MICRI Media Research Institute zeigt: 62 % der Social-Media-Nutzer in Vietnam können ohne Warnungen von etablierten Medien oder Behörden nicht zwischen Realität und Fälschung unterscheiden. Diese „kognitive Lücke“ wird von kriminellen Kräften gezielt ausgenutzt, um Falschinformationen zu verbreiten und so soziale und psychologische Verunsicherung auszulösen.

Tong Van T. auf der Polizeiwache.

Laut Generalmajor und außerordentlicher Professor Dr. Do Canh Thin, einem Kriminologen, ist der Einsatz von KI zur Erstellung gefälschter Videos von Führungskräften, zur Manipulation von Aussagen oder zur Verzerrung des professionellen Handelns der Polizei eine neue, aber besonders gefährliche Masche. „Deepfake ist nicht einfach nur ein Unterhaltungsprodukt, sondern eine Form moderner Informationskriegsführung, die Vertrauen zerstören, soziale Instabilität verursachen und sehr schwer zu kontrollieren ist“, kommentierte Generalmajor Do Canh Thin.

Tatsächlich sind KI-manipulierte Videos nicht harmlos, sondern berühren oft sensible Themen wie den Umgang mit Verstößen, die Aufklärung von Straftaten, die Bekämpfung von Korruption usw., was zu Verwirrung und Misstrauen gegenüber den Strafverfolgungsbehörden führt. Noch besorgniserregender ist, dass viele Videos auf großen Plattformen wie YouTube und TikTok Hunderttausende von Aufrufen erzielen, bevor sie entfernt werden, was einen negativen viralen Effekt erzeugt.

Der Digitalmedienexperte Hoang Minh warnt: „Schon ein einziges Teilen oder Liken ohne Vorsicht kann dazu führen, dass man zum Verbreiter von Falschnachrichten wird. Jeder Internetnutzer muss verstehen, dass sein Verhalten im digitalen Raum auch reale Konsequenzen hat.“

In diesem Kontext ist es wichtiger denn je, einen „digitalen Schutzschild“ innerhalb der Gemeinschaft zu errichten: Wachsamkeit, Informationssicherheit und Verantwortungsbewusstsein für die Netzwerkumgebung. Technologie mag neutral sein, doch ihre Nutzung entscheidet darüber, ob KI zu einer treibenden Kraft der Entwicklung oder zu einer Kraft wird, die das gesellschaftliche Vertrauen zerstört. Die ideologische Front zu wahren und das Ansehen der Sicherheitskräfte zu schützen, sichert die Grundlage der nationalen Sicherheit – eine Aufgabe nicht nur des operativen Sektors, sondern jedes einzelnen Bürgers im digitalen Zeitalter.

Quelle: https://baolangson.vn/tinh-hai-mat-cua-ai-5050403.html