Polizei von Ho-Chi-Minh-Stadt: Vorsicht vor den Schattenseiten der KI-Videotechnologie Veo 3

Obwohl bisher keine Betrugsfälle im Zusammenhang mit der KI-Videoerstellungstechnologie Veo 3 bekannt sind, rät die Polizei von Ho-Chi-Minh-Stadt zur Wachsamkeit, da diese Technologie von Kriminellen für illegale Handlungen missbraucht werden kann.

Neue KI-Technologien zur Videogenerierung bieten Nutzern viele Möglichkeiten, bergen aber auch Risiken.

Am 9. Juli teilte die Polizei von Ho-Chi-Minh-Stadt mit, dass es dank der Entgegennahme von Meldungen und der Anzeige von Straftaten bisher keine registrierten Betrugsfälle im Zusammenhang mit der Videoerstellungstechnologie AI Veo 3 gegeben habe. Dennoch sei erhöhte Wachsamkeit geboten, da diese Technologie neben ihren positiven Aspekten auch von Kriminellen für illegale Handlungen missbraucht werden könne.

Nach Angaben der Abteilung für Cybersicherheit und Bekämpfung von Hightech-Kriminalität (PA05) der Polizei von Ho-Chi-Minh-Stadt erfreuen sich generative KI-Anwendungen – auch bekannt als künstliche KI (wie Swapface, SoraAI, ChatGPT, Deepseek...) –, die es Benutzern ermöglichen, Videos, Bilder und Livestreams mit Stimm- und Gesichtsveränderungen zu erstellen, zunehmender Beliebtheit.

Ende Mai 2025 veröffentlichte Google das Tool Google Veo 3, eine neue KI-Videoerstellungstechnologie, die auf beliebten sozialen Netzwerkplattformen wie Facebook, X usw. für Furore sorgt. Veo 3 kann Bilder, Inhalte und Bewegungen von Charakteren und Hintergründen erzeugen, insbesondere aber automatisch Soundeffekte und Synchronisation auf Abruf. Dadurch fällt es vielen Zuschauern schwer zu unterscheiden, ob es sich um ein KI-Produkt oder eine reale Szene handelt.

Neben den positiven Effekten (großes Potenzial in den Bereichen Content-Erstellung, Bildung , Kino, Medien usw.) kann diese Technologie auch von Einzelpersonen zur Begehung illegaler Handlungen missbraucht werden.

Beispielsweise können Kriminelle mithilfe der Veo 3-Technologie aus einem Personenbild automatisch viele wichtige Informationen extrahieren, wie etwa: die Gesichtserkennung des Fotobesitzers; den geografischen Ort, an dem sich die Person auf dem Foto häufig aufhält; häufig genutzte Produkte und Dienstleistungen; Lebensgewohnheiten... und so Gesicht und Stimme allein mit Bildern und Tönen aus dem Cyberspace nachbilden; und daraus eine realistische „digitale Kopie“ erstellen.

Ein bekannter Trick von Betrügern, die KI-Technologie einsetzen, besteht darin, dass sie nach der Erstellung einer „digitalen Kopie“ jemanden beauftragen, sich als Verwandter oder als Mitarbeiter einer zuständigen Behörde (Polizei, Gericht, Staatsanwaltschaft, Finanzamt, Krankenhaus usw.) auszugeben, um per Videoanruf das Opfer aufzufordern, den Anweisungen zu folgen oder Panik vorzutäuschen und einen Notruf abzusetzen, um die Angst des Opfers auszunutzen; sobald das Opfer das Geld überwiesen hat, „verschwindet“ der Betrüger sofort.

Darüber hinaus können Kriminelle dieses Werkzeug auch für andere illegale Zwecke nutzen, wie zum Beispiel: pornografische Inhalte, Verbreitung von Falschinformationen... um Eigentum zu erpressen.

Laut PA05 werden Kriminelle auch in Zukunft die wissenschaftlichen und technologischen Entwicklungen ausnutzen, um illegale Handlungen zu begehen. Gleichzeitig sind das Wissen und das Bewusstsein der Bevölkerung hinsichtlich Erkennung, Selbstprävention und Wachsamkeit weiterhin begrenzt.

Um die Effektivität der Bekämpfung betrügerischer Aktivitäten der Vermögensaneignung im Cyberspace in der kommenden Zeit zu verbessern, wird die Stadtpolizei dem Ministerium für öffentliche Sicherheit weiterhin Bericht erstatten, um die Partei und den Staat bei der Vervollkommnung des Rechtsrahmens und der staatlichen Sicherheits- und Ordnungsverwaltung zu beraten und die Massen zur Teilnahme an der Bewegung des gesamten Volkes zum Schutz der nationalen Sicherheit auf lokaler Ebene zu mobilisieren, um das Bewusstsein und die Wachsamkeit zu erhöhen und die Effektivität bei der Verhinderung und Aufdeckung betrügerischer Aktivitäten der Vermögensaneignung im Cyberspace zu steigern.

Darüber hinaus empfiehlt die Polizei von Ho-Chi-Minh-Stadt der Bevölkerung Folgendes:

Seien Sie wachsam gegenüber Nachrichten und Anrufen von unbekannten Nummern, in denen es um unerwartete Situationen geht; prüfen und verifizieren Sie sorgfältig die Richtigkeit der Informationen; hören Sie auf keinen Fall auf Anweisungen von Betrügern, befolgen Sie diese nicht, überweisen Sie kein Geld, wie von ihnen verlangt, und klicken Sie nicht auf Links unbekannter Herkunft, die in Nachrichten, E-Mails usw. versendet werden.

Beschränken Sie die Veröffentlichung von Inhalten mit Bezug zu persönlichen Informationen auf öffentlichen Social-Networking-Plattformen, um zu verhindern, dass Unbefugte Informationen wie Bilder, Videos und Sprachaufnahmen stehlen; stellen Sie gleichzeitig Ihre persönlichen Social-Networking-Konten auf den privaten Modus, um Ihre Informationen zu schützen; installieren Sie Online-Anwendungen nur aus offiziellen Quellen des Betriebssystems Ihres Telefons (PlayStation, App Store).

Falls Sie feststellen, dass Sie betrogen wurden oder den Verdacht haben, dass Sie mit der oben genannten Methode betrogen wurden, sollten Sie sich unverzüglich an die nächstgelegene Polizeistation wenden, um zeitnah Unterstützung und eine Lösung zu erhalten.

DAN THUAN - CHAU TUAN

Quelle: https://tuoitre.vn/cong-an-tp-hcm-can-trong-voi-mat-trai-cua-cong-nghe-tao-video-ai-veo-3-20250709172731831.htm