Identifizierung von Taktiken, die von KI zur Verzerrung von Informationen eingesetzt werden.

Der Einsatz künstlicher Intelligenz (KI) zur Inszenierung von Konflikten zwischen Streitkräften oder zur Fälschung von Fernsehnachrichten entwickelt sich in den sozialen Medien zu einem gefährlichen Trend. Diese Praxis geht über die reine Unterhaltung hinaus und wird von Akteuren mit böswilligen Absichten missbraucht, um die Wahrheit zu verzerren, die öffentliche Ordnung und Sicherheit zu stören. Daher ist die Wachsamkeit jedes einzelnen Bürgers unerlässlich.

Die Polizei von Thai Nguyen hat eine Warnung an Personen ausgesprochen, die KI-Anwendungen nutzen, um zu Unterhaltungszwecken falsche Informationen über VTV-Nachrichtensendungen zu verbreiten.

Kürzlich kursierten im Internet Bilder, die angeblich gewaltsame Auseinandersetzungen zwischen Verkehrspolizei und Militär in der Provinz Thai Nguyen zeigten. Diese Bilder waren mithilfe künstlicher Intelligenz (KI) geschickt manipuliert worden und sorgten in den sozialen Medien für große Verwirrung.

Im Exil lebende reaktionäre Elemente haben die Neugier der Leser ausgenutzt, um mithilfe von KI-Technologie erfundene Szenarien und reißerische Informationen zu verbreiten. Ihr Ziel ist nicht nur, Interaktionen zu provozieren, sondern vielmehr, die öffentliche Meinung zu manipulieren und das Ansehen der Streitkräfte schwer zu schädigen.

Neben politischen Verschwörungstheorien trägt ein Teil der Bevölkerung heutzutage auch „unachtsam“ zur Verbreitung von Fake News bei, indem er an vermeintlich „lustigen“ Trends teilnimmt.

Vor Kurzem wurde der Fall von Herrn MPQ (wohnhaft im Stadtteil Linh Son, Thai Nguyen) von der Einwanderungsbehörde (Provinzpolizei Thai Nguyen) aufgedeckt und bearbeitet. Herr MPQ hatte mithilfe einer KI-Anwendung auf seinem Handy sein Gesicht in ein Interviewbild aus einer VTV1-Nachrichtensendung eingefügt und es anschließend mit dem als „humorvoll und unterhaltsam“ gedachten Inhalt auf seiner persönlichen Facebook-Seite veröffentlicht.

Der Beitrag löste Hunderte von Interaktionen aus und führte zu Informationsstörungen. Auf der Polizeiwache gab Herr Q. zwar zu, lediglich unterhalten zu wollen, doch die Verwendung des Logos und der Inhalte einer Nachrichtensendung zur Verbreitung von Falschmeldungen schadete dem Ruf der Nachrichtenagentur. Angesichts der Schwere des Verstoßes erteilten die Behörden eine Verwarnung, forderten die Entfernung der Inhalte und verlangten die Zusage, den Verstoß nicht zu wiederholen.

Angesichts der zunehmenden Raffinesse schädlicher, toxischer, gefälschter und irreführender Informationen, die mithilfe von KI-Technologie erzeugt werden, müssen die Menschen einen starken mentalen "Filter" aufbauen, um sich im Cyberspace zu schützen.

Gleichzeitig ist es extrem wichtig, die Anzeichen von KI-Technologie zu erkennen; Benutzer sollten auf ungewöhnliche Details achten, wie etwa Lippenbewegungen, die nicht zur Sprache passen, eine Gesichtsbeleuchtung, die nicht zum Kontext passt, oder Darstellungsfehler, die charakteristisch für Deepfakes sind, um nicht in die Falle von Fake News zu tappen.

Insbesondere muss sich jeder Einzelne darüber im Klaren sein, dass das Gesetz jegliches Vortäuschen staatlicher Funktionen strengstens verbietet, einschließlich der unbefugten Verwendung von Logos und Bildern der Polizei, des Militärs oder von Medien zur Erstellung falscher Inhalte, selbst wenn dies nur zu Scherzzwecken geschieht.

Darüber hinaus ist Vorsicht geboten beim Umgang mit unbekannten KI-Anwendungen, die Gesichtsdaten anfordern, um das Risiko von Datenlecks zu vermeiden und um zu verhindern, dass diese von böswilligen Akteuren zu betrügerischen Zwecken missbraucht werden.

Quelle: https://baothainguyen.vn/phap-luat/202605/nhan-dien-thu-doan-dung-ai-xuyen-tac-thong-tin-61a666f/