Der legendäre Kampf gegen Desinformation, Deepfakes und Betrug

(NB&CL) Neben Krieg, bewaffneter Gewalt oder tiefen globalengeopolitischen Spaltungen steht die Welt im Jahr 2024 weiterhin vor einem großen Kampf gegen Desinformation, Fake News und Betrug. Dieses Problem wird eine legendäre Geschichte sein, die nur schwer zu beenden ist, und es wird vorausgesagt, dass es sich noch weiter verschärfen wird, wenn die Welt nicht gemeinsam drastische Maßnahmen ergreift.

Informationschaos – eine wachsende Gefahr

Informationsstörungen, insbesondere Fehlinformationen und Cyberbetrug, werden als „globale Pandemie“ betrachtet, als ein gemeinsamer Kampf der Welt , in dem traditionelle Presseorganisationen mit ihrer Mission, die Wahrheit zu schützen, eine Vorreiterrolle spielen müssen. Der Kampf kann jedoch nur erfolgreich sein, wenn in jedem Land und in den globalen Organisationen drastische und grundlegende Maßnahmen ergriffen werden.

Fake News, Fehlinformationen und insbesondere betrügerische Aktivitäten sind mittlerweile die unvermeidlichen Folgen und negativen Aspekte des Eintritts der Welt in ein neues Zeitalter der Kommunikation. Die Bühne ist schlicht nicht mehr nur den zensierten Medien und Presseagenturen vorbehalten. Wie wir wissen, hat die explosionsartige Verbreitung des Internets, hochtechnologischer Geräte und insbesondere der sozialen Netzwerke es jedem ermöglicht, ein „Journalist“, „Reporter“ oder sogar ein „Sprecher“ zu werden, dem Millionen von Menschen folgen.

Soziale Netzwerke, eine Welt ohne Regeln

Alles hat zwei Seiten. Die explosionsartige Zunahme sozialer Netzwerke hat viele Vorteile mit sich gebracht, beispielsweise hat sie dazu beigetragen, dass sich Informationen und Wissen auf spektakuläre Weise schnell und weit verbreitet haben. Heutzutage können Informationen über einen Unfall Menschen innerhalb von Minuten erreichen, sogar am anderen Ende der Welt. Oder Informationen über Naturkatastrophen wie Überschwemmungen, Stürme, Waldbrände usw. werden von den Menschen über soziale Netzwerkplattformen schnell aktualisiert oder geteilt und tragen so zu einer effektiven Verbreitung oder Warnung bei.

Allerdings bringen soziale Netzwerke und Community-Sharing-Plattformen neben den guten Aspekten auch besorgniserregende Folgen mit sich. Noch beängstigender ist, dass nicht nur Menschen, sondern auch Maschinen und insbesondere die schnelle Verbreitung künstlicher Intelligenz (KI) die Internetwelt im Allgemeinen und Technologieplattformen im Besonderen zu einem Ort mit zu vielen Risiken machen.

„Informationspandemie“ in sozialen Netzwerken

Laut einer von Redline Ende Juni 2024 veröffentlichten Statistik gibt es weltweit 4,9 Milliarden Nutzer sozialer Netzwerke. Laut dieser Umfrage unter Amerikanern vertrauen die meisten Social-Media-Nutzer nicht auf die Genauigkeit der auf diesen Plattformen – von Facebook über TikTok bis hin zu YouTube – verbreiteten Informationen. Aus diesem Grund verwendete diese Organisation den Begriff „Infodemie“, um über den aktuellen Stand der Desinformation in sozialen Netzwerken zu sprechen.

Die Welt der sozialen Medien ist wie ein Urwald, in dem es fast keine Regeln gibt. Die Menschen dort genießen Fruchtbarkeit, Freiheit und Komfort, doch damit sind auch tödliche Fallen verbunden. Bis heute kämpft fast jedes Land noch mit der Verwaltung und Organisation dieses „Urwalds“ und unternimmt sogar erste Schritte, um gegen Verstöße vorzugehen, während diese „Welt“ die gesamte Menschheit umfasst.

Ende November dieses Jahres war Australien das erste Land der Welt, das offiziell ein Gesetz einführte, das Kindern den Zutritt zur faszinierenden, aber auch gefährlichen und nahezu gesetzlosen „primitiven“ Welt verbietet. Insbesondere Australien verbietet Kindern unter 16 Jahren die Nutzung sozialer Netzwerke und verhängt hohe Geldstrafen von bis zu 32 Millionen US-Dollar, wenn soziale Netzwerke gegen diese Vorschriften verstoßen.

In diesem Zusammenhang entwickelt sich die explosionsartige Zunahme von Fake News, Fehlinformationen und insbesondere Betrug in sozialen Netzwerken (sowie in anderen hochtechnologischen Formen wie Softwareanwendungen, betrügerischen Websites usw.) immer mehr zu einem globalen Problem. In Vietnam hören wir jeden Tag herzzerreißende Geschichten über Opfer, die Opfer aller Formen der Internetkriminalität werden. Dies ist auch weltweit ein Problem jedes Landes.

Im März dieses Jahres berichtete Interpol, dass der Online-Betrug in Südostasien weltweit zugenommen habe und jährlich bis zu 3 Billionen US-Dollar (das entspricht dem BIP Frankreichs) einbringe. Sogar ein britischer Maschinenbaukonzern verlor 25 Millionen Dollar, nachdem Betrüger mithilfe eines Deepfakes die Identität eines leitenden Managers annahmen und Geldüberweisungen anordneten. Dies sind natürlich nur einige Beispiele für die Millionen von Betrügereien, die es online gibt.

Der Umgang mit der Verbreitung von Fehlinformationen in sozialen Medien ist eine unmögliche Mission?

Obwohl Länder und globale Organisationen ständige Anstrengungen unternehmen, illegale Aktivitäten im Cyberspace, insbesondere auf großen sozialen Plattformen wie TikTok, Facebook oder X, zu verhindern oder zu bestrafen, ist die Zahl der behandelten Fälle immer noch sehr gering.

Bemerkenswerter ist, dass bislang kaum ein Land und keine Organisation soziale Netzwerke für Fehlverhalten wie die Verbreitung falscher Informationen oder gar Gesetzesverstöße zur Verantwortung gezogen hat. Im Mai dieses Jahres gab Meta selbst zu, dass es auf seinen Facebook- und Instagram-Plattformen „potenziell KI-generierte“ Inhalte gefunden habe, die zu falschen Darstellungen oder zum Betrug verwendet wurden. Diese Aussage zeigt, dass die sozialen Netzwerke selbst behaupten, bei der Verbreitung schädlicher Informationen „unschuldig“ zu sein, sonst hätten sie sich nicht auf diese Weise „selbst bekannt“.

Tatsächlich mussten Big-Tech-Unternehmen wie Meta, TikTok, Google, Microsoft oder X weltweit Milliardenstrafen für ihre Verstöße zahlen, doch diese beziehen sich ausschließlich auf Verstöße gegen Datenschutzbestimmungen oder Kartellrecht. Und es gab fast keine Strafen gegen sie, weil sie Verstöße in ihrem „Haus“ zugelassen haben.

Der bemerkenswerteste Fall in diesem Bereich ist die Festnahme des Telegram-Chefs Pavel Durov in Frankreich. Ihm wird vorgeworfen, kriminelle Aktivitäten auf dieser Messaging-Plattform gefördert zu haben. Die Festnahme, der politische Untertöne zugeschrieben werden, erfolgte jedoch im Geheimen. Es handelt sich nicht um einen öffentlichen Rechtsstreit gegen ein soziales Netzwerk oder ein normales Unternehmen. Tatsächlich gab es für Telegram nie eine einzige Strafe im Zusammenhang mit kriminellen Aktivitäten auf dieser Plattform, obwohl die Vereinten Nationen im Oktober 2024 einen Bericht veröffentlichten, wonach diese Plattform ein Werkzeug für kriminelle Banden ist, das sie für illegale Transaktionen nutzen.

Die Welt kämpft immer noch mit dem Problem von Fake News, Fehlinformationen und Betrug auf Social-Media-Plattformen. Abbildung: IJNET

Auch wenn es bei derartigen offensichtlich illegalen Aktivitäten nicht möglich ist, sich mit Social-Media-Plattformen oder Community-Sharing auseinanderzusetzen, ist klar, dass die Kontrolle toxischer Inhalte, gefälschter Nachrichten und Fehlinformationen extrem weit entfernt ist.

Infolgedessen haben die Plattformen nicht nur keine Angst, sondern zeigen auch zunehmend Anzeichen dafür, dass sie „auf eigene Faust handeln“, wenn sie mithilfe ihrer immer ausgefeilteren Algorithmen kontroverse, sensationelle, unsinnige oder toxische Informationen verbreiten, um Zuschauer anzulocken. Es ist erwähnenswert, dass die großen Technologieunternehmen auch bereit sind, Druck auszuüben oder alle Maßnahmen anzufechten, um sie in dieser Angelegenheit zu bestrafen. Der Milliardär Elon Musk, Eigentümer des sozialen Netzwerks X, äußerte im September 2024 seinen Widerstand gegen einen neuen australischen Gesetzentwurf, der vorsieht, Social-Media-Unternehmen mit Geldstrafen zu belegen, wenn es ihnen nicht gelingt, Fehlinformationen im Internet zu verhindern.

Nach dem noch immer australischen Gesetzentwurf könnten Internetplattformen für die Verbreitung von Fehlinformationen mit Geldstrafen von bis zu 5 % ihres weltweiten Umsatzes belegt werden. Auch andere große Technologieplattformen wie Google und Meta haben ihre Bedenken geäußert und den neuen Gesetzentwurf Australiens angefochten. Beachten Sie, dass es sich hierbei auch um einen der weltweit seltenen Gesetzesentwürfe handelt, in dem die Bestrafung sozialer Netzwerke für die Verbreitung falscher Informationen, Fake News und betrügerischer Aktivitäten erwähnt wird.

Wenn wir uns die Welt der traditionellen Medien und des Journalismus ansehen, ist dieses Paradoxon schwer zu akzeptieren. Jeder weiß, dass eine Zeitung oder ein Fernsehsender, wenn auch nur ein kleiner fachlicher Fehler begeht, ganz zu schweigen von der Verbreitung falscher oder illegaler Informationen, mit schweren Strafen für die gesamte Agentur rechnen muss und dass sich zumindest die Leser von ihr abwenden und nicht nur der Reporter oder Redakteur, der die Informationen geliefert hat.

Die „globale Pandemie“ gerät außer Kontrolle

Man kann sagen, dass das Problem der Fehlinformationen, Fake News, toxischen Nachrichten und des Betrugs schwerwiegender ist als jeder Krieg oder jede Pandemie, da es weltweit eine ganze Generation, insbesondere die junge Generation, betreffen kann. Es gibt zu viele Studien, die zeigen, wie schädlich soziale Medien, insbesondere die süchtig machenden Kurzvideofunktionen von Facebook, TikTok oder Google, für die körperliche und geistige Gesundheit von Kindern sind.

In einer aktuellen Studie wies UNICEF darauf hin, dass soziale Netzwerke darauf ausgelegt sind, die Aufmerksamkeit der Nutzer möglichst lange zu fesseln. Dabei machen sie sich unsere Vorurteile und psychischen Schwächen zunutze, etwa den Wunsch nach Anerkennung oder die Angst vor Ablehnung. Übermäßige Nutzung sozialer Medien ist mit Gefühlen von Neid, Minderwertigkeit und geringer Lebenszufriedenheit verbunden. Studien haben sogar gezeigt, dass diese Angewohnheit zu Symptomen wie Depressionen, Angstzuständen und Schlafmangel führen kann, wobei psychische Erkrankungen am häufigsten auftreten …

Sängerin Taylor Swift ist eine der Prominenten, die dem KI-Deepfake-Problem zum Opfer gefallen sind. Foto: Herbert Wang

Vietnams Regelung, die soziale Netzwerke zur Authentifizierung ihrer Nutzer zwingt, tritt in Kraft

Das kürzlich von der vietnamesischen Regierung erlassene Dekret 147/2024/ND-CP zur Verwaltung, Bereitstellung und Nutzung von Internetdiensten und Online-Informationen tritt am 25. Dezember 2024 in Kraft. Demnach verlangt die Verordnung von sozialen Netzwerken, Benutzer per Telefonnummer oder persönlicher Identifikationsnummer zu authentifizieren, und nur authentifizierte Konten dürfen Informationen bereitstellen (Artikel schreiben, kommentieren, Livestreams erstellen) und Informationen in sozialen Netzwerken teilen. Von diesem Erlass wird erwartet, dass er die Verbreitung falscher und irreführender Informationen sowie insbesondere betrügerischer Aktivitäten in sozialen Netzwerken stark einschränkt.

Es gibt viele Beispiele, die zeigen, dass Fehlinformationen, Fake News und Deepfakes schwerwiegende Auswirkungen auf das reale Leben haben und möglicherweise zu einer globalen Bedrohung werden. Im August dieses Jahres kam es zu Unruhen, weil in den sozialen Medien die falsche Behauptung verbreitet wurde, der Verdächtige bei einer Messerstecherei in Großbritannien, bei der ein junges Mädchen getötet wurde, sei ein radikaler muslimischer Einwanderer (der in Wirklichkeit Brite war). Die Unruhen führten zu Tausenden von Festnahmen durch die Polizei.

Auch während des Attentats auf Donald Trump im Juli 2024 wurde die Social-Media-Welt mit Fake News und Verschwörungstheorien überschwemmt, etwa der Behauptung, ein italienischer Journalist (in Wahrheit ein 20-jähriger Amerikaner) sei unter Tatverdacht. In den sozialen Medien wurde zudem fälschlicherweise behauptet, der Verdächtige sei Chinese oder der Vorfall sei ein „inszeniertes Szenario“. Die Verbreitung von Fehlinformationen verstärkt zudem den Hass gegenüber allen Konflikten und Krisenherden in der Welt, wie etwa den Kriegen zwischen Russland und der Ukraine, den Kriegen zwischen Israel und Palästina oder dem Problem des Antimuslimismus und Antisemitismus.

Darüber hinaus gerät der Kampf gegen Fehlinformationen angesichts der explosionsartigen Verbreitung von KI außer Kontrolle. Deepfake-Tools und billige KI-Modelle breiten sich ohne nennenswerte Kontrollen aus.

Laut Statistiken von DeepMedia ist die Anzahl der Deepfake-Videos und -Stimmen jedes Jahr sprunghaft angestiegen. Im Vergleich zu 2022 hat sich die Zahl der Deepfake-Videos im Jahr 2023 mehr als verdreifacht und die Zahl der Deepfake-Stimmen mehr als achtmal so hoch. Prognosen zufolge werden davon im Jahr 2024 weltweit etwa 500.000 Deepfake-Videos und -Stimmen in sozialen Netzwerken geteilt.

Anfang 2024 verbreitete sich eine Reihe von KI-generierten pornografischen Bildern der Sängerin Taylor Swift in den sozialen Medien und sorgte weltweit für Leid. Darüber hinaus sind auch eine Reihe von Politikern auf der ganzen Welt, darunter US-Präsident Joe Biden und Staats- und Regierungschefs in Großbritannien, Indien, Nigeria, Sudan, Äthiopien und der Slowakei, Opfer des Deepfake-Identitätsdiebstahls geworden.

Daher wird das Problem von Fake News, Fehlinformationen und insbesondere betrügerischen Aktivitäten im Cyberspace immer ernster. Im kommenden KI-Zeitalter könnte diese „globale Pandemie“ außer Kontrolle geraten, wenn nicht die gesamten Menschen und insbesondere die politischen Entscheidungsträger der einzelnen Länder gemeinsame Anstrengungen unternehmen, um sie zu verhindern.

Hoang Hai

Quelle: https://www.congluan.vn/truyen-ky-cuoc-chien-chong-thong-tin-sai-lech-deepfake-va-lua-dao-post328128.html