Von Bildern und Videos bis hin zu KI-Songs: Vorsicht vor dem „Tornado“ an KI-Inhalten in sozialen Netzwerken

Künstliche Intelligenz (KI) wird in Online-Geschäftsaktivitäten eingesetzt, von Verkäufen bis hin zu Spendenbetrug, was Regulierungsbehörden und Unternehmen dazu zwingt, schnell Lösungen zu finden, um Risiken im Zeitalter künstlicher Inhalte zu erkennen und zu kontrollieren.

Immer mehr KI-bearbeitete und hinzugefügte Bilder und Videos werden in sozialen Netzwerken veröffentlicht, um Aufmerksamkeit zu erregen – Foto: DUC THIEN

Mussten früher normale Nutzer Photoshop-Experten engagieren, um ein gefälschtes Foto zu erstellen, so kann heute mit KI in weniger als 5 Minuten und mit einigen grundlegenden Kenntnissen eine Reihe gefälschter Fotos überall auftauchen.

Wenn KI Bilder, Videos, Lieder... so realistisch erzeugt, dass man es kaum glauben kann

Frau Hoan My (HCMC), eine Mitarbeiterin der Kommunikationsabteilung, sagte, dass sie täglich regelmäßig auf Facebook surfe und dass immer mehr Inhalte unter Mitwirkung von KI-Tools von den Nutzern veröffentlicht würden.

„Viele Fotos, die von Freunden oder Gruppenmitgliedern gepostet werden, wirken so realistisch, dass ich ohne deren Hinweis nicht erkennen könnte, ob KI zum Einsatz kam. Auch immer mehr Videos – von Animationen und fiktiven Geschichten bis hin zu Kurzfilmen oder Videos über reale Ereignisse – werden mithilfe von KI-Tools erstellt, ohne dass ich es bemerken würde“, erklärte Frau My.

Nicht nur Bilder und Videos, auch auf dem sozialen Netzwerk YouTube gibt es viele Lieder, die von „KI-Sängern“ aufgeführt oder komponiert wurden. Viele Nutzer sind von dieser neuen Erfahrung begeistert und wetteifern darum, sie in sozialen Netzwerken mit ihren Freunden zu teilen.

„Ich kann nicht erkennen, ob es sich um einen KI-Sänger handelt, wenn es nicht angekündigt wird. KI-Inhalte sind im vietnamesischen Internet immer weiter verbreitet. Normale Nutzer wie ich werden wahrscheinlich bald nicht mehr unterscheiden können, welche Inhalte von echten Menschen stammen, welche von KI erstellt wurden oder KI-gesteuert sind“, sagte Khanh Ha (Ho-Chi-Minh-Stadt).

In letzter Zeit haben viele Social-Networking-Plattformen in Vietnam Videos und Livestreams gezeigt, in denen Produkte von Menschen mit Behinderungen verkauft werden, was die Online-Community sympathischer und hilfsbereiter gemacht hat.

Viele Fälle, in denen KI missbraucht wurde, um gesunde Menschen in behinderte Personen zu verwandeln, wurden später von der Online-Community aufgedeckt. Ziel dieses Tricks ist es, das Mitgefühl der Zuschauer auszunutzen, um Waren zu verkaufen oder betrügerische Handlungen zu begehen.

Viele Technologieexperten berichten von einem Anstieg in sozialen Netzwerken, wo vermehrt Verkaufsvideos mit Bildern von behinderten, kranken oder benachteiligten Menschen veröffentlicht werden, um Mitleid zu erregen. Tatsächlich zeigt sich jedoch, dass ein Großteil dieser Inhalte mithilfe von KI-Tools erstellt oder bearbeitet wird, wodurch gesunde Menschen zu behinderten Personen gemacht werden – entweder aus Profit- oder Betrugsgründen.

Milko Radotic, Vizepräsident und Verantwortlicher für die Region Asien- Pazifik bei iProov, dem weltweit führenden Anbieter biometrischer Authentifizierungstechnologie, warnte im Gespräch mit Tuoi Tre: „Unsere Untersuchungen zeigen, dass 99,9 % der Teilnehmer Deepfakes nicht erkennen können. Selbst die heutigen hochentwickelten Erkennungswerkzeuge stoßen auf viele Schwierigkeiten.“

Widerstandsfähigkeit für digitale Nutzer erhöhen

Herr Dang Huu Son - stellvertretender Direktor des Instituts für angewandte Forschung und Personalentwicklung AIOV, Gründer und CEO des KI-Unternehmens LovinBot - sagte, dass der KI-Markt seit Googles Einführung der KI-Technologie Nano Banana, Veo 3; ByteDances Einführung von Seedream 4 und davor OpenAIs Einführung von GPT Image extrem dynamisch sei und auch viele Konsequenzen mit sich gebracht habe.

„Technologie war noch nie so zugänglich wie heute. Es handelt sich hierbei um extrem leistungsstarke KI-Modelle, die Gesichter zu fast 90, ja sogar zu 99 % mit dem Originalfoto vergleichen können“, kommentierte Herr Son.

Mussten früher normale Nutzer Photoshop-Experten beauftragen, um gefälschte Fotos zu erstellen, so kann man heute mit KI und einigen Grundkenntnissen in weniger als 5 Minuten eine Reihe gefälschter Fotos und ein gefälschtes Video erstellen, das ausgeschnitten und eingefügt wurde und mit nachrichtenähnlichen Effekten versehen ist – und das in schwindelerregender Geschwindigkeit.

„Falschnachrichten werden vielfach wiederholt, sind hochkonzentriert und leicht zugänglich, sodass viele Menschen, die täglich damit in Kontakt kommen, sie für wahr halten. Daher sind Lösungen erforderlich, um die genannten Probleme einzudämmen“, bemerkte Herr Son.

Laut Herrn Trinh Nguyen Thien Phuoc, Technologiedirektor von Gianty Vietnam, sind drei Ebenen erforderlich, um KI-generierte Inhalte zu erkennen: (1) Nutzerverifizierung (einschließlich festgelegter Regeln); (2) technische Hilfsmittel wie Content Credentials (C2PA), Wasserzeichen-Identifizierung (SynthID, AudioSeal) und Deepfake-Detektoren; (3) ein Koordinierungsprozess zwischen beteiligten Parteien wie Plattformen, Netzbetreibern und Banken.

Insbesondere muss die goldene Regel sehr schnell innerhalb von 30 bis 60 Sekunden befolgt werden, einschließlich: Klicken Sie nicht auf verdächtige Links, sondern rufen Sie die offizielle App/Website zur Überprüfung auf; stoppen Sie sofort, wenn Sie auf Schlüsselwörter stoßen, die eine Handlung erzwingen (OTP/Geldtransfer/dringend).

Gleichzeitig sollten Nutzer Informationen anhand zweier unabhängiger Quellen überprüfen, bevor sie ihnen Glauben schenken. Prüfen Sie Datum, Uhrzeit und Kontext (alte Nachrichten können als neu getarnt sein). Rufen Sie die offizielle Nummer an, die Sie selbst gefunden haben, und verwenden Sie nicht die Nummer, die Ihnen von anderen gegeben wurde. Mithilfe von Bildern und Videos können Nutzer nach verwandten Ergebnissen suchen.

Viele Experten sind der Ansicht, dass die grundlegendste Lösung im Umgang mit der Flut von KI-generierten Falschmeldungen in der Sensibilisierung der Öffentlichkeit liegt. Anstatt sich nur auf technische Maßnahmen zu konzentrieren, ist es notwendig, Schulungsprogramme und Wettbewerbe zu entwickeln oder realitätsnahe Situationen zu simulieren, um Menschen dabei zu helfen, ihre Informationsgewohnheiten zu ändern.

Für junge Menschen, insbesondere Studierende, kann die Kombination von Online-Wettbewerben und Medienkampagnen mit Prominenten oder Meinungsführern eine natürliche Anziehungskraft ausüben und ihnen helfen, zu lernen und Erfahrungen zu sammeln, während sie gleichzeitig die Fähigkeiten entwickeln, Fake News und gefälschte Videos zu erkennen. Ältere Menschen hingegen, vor allem in ländlichen Gebieten, benötigen vertrautere und intuitivere Formate wie illustrierte Broschüren, Lehrvideos oder Vorführungen in Kulturzentren und bei Gemeindeveranstaltungen.

„Ein auf die jeweilige Zielgruppe zugeschnittener Ansatz trägt dazu bei, eine solide, langfristige Bewusstseinsgrundlage zu schaffen, anstatt sich auf kurzfristige Maßnahmen zu beschränken. Beispielsweise haben einige Einheiten Erweiterungen entwickelt, die im Chrome-Browser installiert werden können, um Nutzern die Überprüfung von Nachrichten beim Surfen im Internet oder in sozialen Netzwerken zu erleichtern“, erklärte Herr Dang Huu Son.

KI zur Erkennung gefälschter KI

Der Handyhersteller Honor hat kürzlich eine KI-gestützte Deepfake-Erkennung in seine neue Smartphone-Reihe integriert. Diese Funktion analysiert Bilder und Stimmen innerhalb von drei Sekunden und warnt direkt in Apps wie Messenger, Zalo, Viber oder Google Meet vor Fälschungen. So dient sie als „digitaler Schutzschild“ gegen Hightech-Betrug.

Bereits im September 2025 kündigte MoMo seine Zusammenarbeit mit iProov an, um die Dynamic Liveness-Technologie einzusetzen. Diese soll dazu beitragen, zu überprüfen, ob die Nutzer echt sind, die richtige Identität besitzen und zum Zeitpunkt der Transaktion anwesend sind, und Betrug durch Deepfakes, gefälschte Videos oder Bilder verhindern.

In risikoreichen Sektoren wie dem Finanzwesen ist dieses Sicherheitsniveau von entscheidender Bedeutung, um Betrug und unbefugten Zugriff zu verhindern und das Vertrauen der Nutzer in die Plattform aufrechtzuerhalten.

Zurück zum Thema

TUGEND

Quelle: https://tuoitre.vn/tu-hinh-anh-video-den-ca-khuc-ai-can-trong-con-loc-noi-dung-ai-tren-mang-xa-hoi-20251109232702736.htm