Der legendäre Kampf gegen Desinformation, Deepfakes und Betrug

(NB&CL) Neben Krieg, bewaffneter Gewalt und tiefen globalen geopolitischen Spaltungen steht die Welt im Jahr 2024 vor einer weiteren großen Herausforderung: Desinformation, Fake News und Betrug. Dieses Problem wird sich zu einer langwierigen und schwer zu lösenden Geschichte entwickeln und dürfte sich Prognosen zufolge noch verschärfen, wenn die Welt nicht gemeinsam drastische Maßnahmen ergreift.

Informationschaos – eine stetig wachsende Gefahr

Informationsstörungen, insbesondere Desinformation und Cyberbetrug, gelten als „globale Pandemie“, ein weltweiter Kampf, in dem traditionelle Medienorganisationen mit ihrem Auftrag, die Wahrheit zu schützen, eine führende Rolle spielen müssen. Dieser Kampf kann jedoch nur erfolgreich sein, wenn in jedem Land und in globalen Organisationen drastische und grundlegende Maßnahmen ergriffen werden.

Falsche Nachrichten, Desinformation und insbesondere Betrug sind zu unvermeidlichen Folgen und negativen Aspekten des neuen Medienzeitalters geworden. Die Bühne gehört längst nicht mehr nur Medienagenturen und zensierten Zeitungen. Wie wir wissen, hat die rasante Verbreitung des Internets, moderner Technologien und vor allem sozialer Netzwerke es jedem ermöglicht, zum „Journalisten“, „Reporter“ oder gar zum „Sprecher“ zu werden und Millionen von Menschen zu erreichen.

Soziale Netzwerke, eine Welt ohne Regeln

Alles hat zwei Seiten. Die rasante Verbreitung sozialer Netzwerke hat viele Vorteile mit sich gebracht, beispielsweise die spektakuläre und schnelle Verbreitung von Informationen und Wissen. Heute erreichen Informationen über einen Unfall innerhalb weniger Minuten jeden, selbst wenn dieser sich am anderen Ende der Welt befindet. Auch Informationen über Naturkatastrophen wie Überschwemmungen, Stürme und Waldbrände werden über soziale Netzwerke schnell aktualisiert und geteilt, wodurch Warnungen effektiv verbreitet werden können.

Neben den positiven Aspekten bergen soziale Netzwerke und Plattformen zum Teilen von Inhalten jedoch auch besorgniserregende Folgen. Noch beunruhigender ist, dass nicht nur Menschen, sondern auch Maschinen und insbesondere die rasante Verbreitung künstlicher Intelligenz (KI) die Internetwelt im Allgemeinen und Technologieplattformen im Besonderen zu einem Ort mit vielen Risiken machen.

„Informationspandemie“ in sozialen Netzwerken

Laut Statistiken von Redline (Stand: Ende Juni 2024) gibt es weltweit 4,9 Milliarden Social-Media-Nutzer. Eine Umfrage unter US-Amerikanern ergab, dass die meisten Social-Media-Nutzer der Richtigkeit der auf Plattformen wie Facebook, TikTok und YouTube verbreiteten Informationen nicht vertrauen. Daher prägte Redline den Begriff „Infodemie“, um die aktuelle Verbreitung von Fehlinformationen in den sozialen Medien zu beschreiben.

Die Welt der sozialen Netzwerke gleicht einem Urwald, in dem es kaum Regeln gibt. Die Menschen genießen darin Fruchtbarkeit, Freiheit und Erholung, doch lauern gleichzeitig tödliche Fallen. Bis heute ringen fast alle Länder mit der Verwaltung und Organisation dieses „Urwaldes“ und unternehmen erste Schritte, um gegen Verstöße vorzugehen, obwohl diese „Welt“ die gesamte Menschheit erfasst hat.

Ende November dieses Jahres führte Australien als erstes Land weltweit ein Gesetz ein, das Kindern den Zugang zur faszinierenden, aber gefährlichen und nahezu gesetzlosen „primitiven“ Welt verbietet. Konkret untersagt Australien Kindern unter 16 Jahren die Nutzung sozialer Netzwerke und verhängt bei Verstößen hohe Geldstrafen von bis zu 32 Millionen US-Dollar.

In diesem Zusammenhang entwickelt sich die explosionsartige Zunahme von Falschnachrichten, Desinformation und insbesondere Betrug in sozialen Netzwerken (sowie über andere moderne Technologien wie Softwareanwendungen, betrügerische Websites usw.) immer mehr zu einem globalen Problem. In Vietnam erreichen uns täglich herzzerreißende Berichte über Opfer von Betrügern in allen Formen im Internet. Weltweit stellt dies für jedes Land ein Problem dar.

Im März dieses Jahres berichtete Interpol, dass sich Cyberbetrug in Südostasien weltweit ausgebreitet hat und jährlich bis zu 3 Billionen US-Dollar einbringt (das entspricht dem BIP Frankreichs). Selbst ein britischer Technologiekonzern verlor 25 Millionen US-Dollar, nachdem Betrüger mithilfe von Deepfakes einen leitenden Angestellten imitierten, um Geldtransfers zu veranlassen. Dies sind natürlich nur einige Beispiele von Millionen von Cyberbetrugsfällen.

Der Umgang mit Falschinformationen in sozialen Medien – eine unmögliche Mission?

Obwohl Staaten und globale Organisationen ständige Anstrengungen unternehmen, illegale Aktivitäten im Cyberspace, insbesondere auf großen sozialen Plattformen wie TikTok, Facebook oder X, zu verhindern oder zu bestrafen, ist die Anzahl der bearbeiteten Fälle nur sehr gering.

Noch bemerkenswerter ist, dass bisher fast kein Land oder keine Organisation soziale Netzwerke für Vergehen wie die Verbreitung von Falschinformationen oder gar Gesetzesverstöße zur Rechenschaft gezogen hat. Im Mai dieses Jahres räumte Meta selbst ein, auf seinen Plattformen Facebook und Instagram Inhalte gefunden zu haben, die „möglicherweise von KI generiert“ wurden und zur Verzerrung oder Täuschung von Informationen dienten. Diese Aussage zeigt, dass die sozialen Netzwerke selbst glauben, unschuldig zu sein, wenn sie schädliche Informationen verbreiten; andernfalls hätten sie sich nicht derart „selbst eingestanden“.

Tatsächlich mussten große Technologieunternehmen wie Meta, TikTok, Google, Microsoft oder X weltweit Milliarden von Dollar an Strafen für ihre Verstöße zahlen, aber diese beziehen sich ausschließlich auf Verstöße gegen Datenschutzbestimmungen oder Kartellgesetze. Es gab fast keine Strafen dafür, dass sie Verstöße in ihren eigenen Reihen zugelassen haben.

Der bekannteste Fall in diesem Bereich war die Verhaftung des Telegram-Chefs Pavel Durov in Frankreich. Ihm wurde vorgeworfen, kriminelle Aktivitäten auf der Messaging-Plattform ermöglicht zu haben. Die Verhaftung, die als politisch motiviert gilt, erfolgte jedoch im Geheimen. Es handelte sich nicht um ein öffentliches Gerichtsverfahren gegen ein soziales Netzwerk oder ein normales Unternehmen. Tatsächlich wurde Telegram noch nie für kriminelle Aktivitäten auf der Plattform bestraft, obwohl die Vereinten Nationen im Oktober 2024 einen Bericht veröffentlichten, demzufolge die Plattform von kriminellen Banden für illegale Transaktionen genutzt wird.

Die Welt kämpft weiterhin mit dem Problem von Fake News, Desinformation und Betrug in sozialen Medien. Illustrationsfoto: IJNET

Selbst bei solch offensichtlich illegalen Aktivitäten ist klar, dass die Kontrolle schädlicher Inhalte, Fake News und Fehlinformationen in weiter Ferne liegt, wenn ein Eingreifen in die sozialen Medien oder in die Community-Sharing-Aktivitäten nicht möglich ist.

Die Plattformen zeigen also nicht nur keine Angst, sondern agieren zunehmend eigenständig und fördern mithilfe ihrer immer ausgefeilteren Algorithmen kontroverse, reißerische, unsinnige oder schädliche Inhalte, um Nutzer anzulocken. Es ist bemerkenswert, dass die großen Technologiekonzerne bereit sind, Druck auszuüben oder jegliche Maßnahmen zur Bestrafung in diesem Bereich anzufechten. Der Milliardär Elon Musk, Eigentümer des sozialen Netzwerks X, äußerte sich im September 2024 ablehnend zu einem neuen australischen Gesetzentwurf, der Geldstrafen für Social-Media-Unternehmen vorsieht, die Desinformationen im Internet nicht verhindern.

Laut dem australischen Gesetzentwurf könnten Internetplattformen für die Verbreitung von Falschinformationen mit bis zu 5 % ihres weltweiten Umsatzes bestraft werden. Andere große Technologieunternehmen wie Google und Meta haben ebenfalls Bedenken geäußert und den neuen australischen Gesetzentwurf angefochten. Es ist zudem bemerkenswert, dass dieser Gesetzentwurf weltweit selten ist und die Bestrafung sozialer Netzwerke für die Verbreitung von Falschinformationen, Fake News und betrügerischen Aktivitäten vorsieht.

Betrachtet man die Welt der traditionellen Medien und des Journalismus, ist dieses Paradoxon schwer zu akzeptieren. Jeder weiß, dass bei einem kleinen beruflichen Fehler einer Zeitung oder eines Fernsehsenders, ganz zu schweigen von der Verbreitung falscher oder illegaler Informationen, das gesamte Unternehmen schwer bestraft werden kann. Zumindest werden sich die Leser abwenden, und nicht nur der Reporter oder Redakteur, der die Information verbreitet hat, wird zur Rechenschaft gezogen.

Die „globale Pandemie“ gerät außer Kontrolle.

Man kann sagen, dass das Problem von Fehlinformationen, Fake News, Hetze und Betrug schwerwiegender ist als jeder Krieg oder jede Pandemie, da es weltweit ganze Generationen, insbesondere junge Menschen, betreffen kann. Zahlreiche Studien belegen die schädlichen Auswirkungen sozialer Netzwerke, insbesondere der süchtig machenden Kurzvideo- Funktionen von Facebook, TikTok oder Google, auf die körperliche und seelische Gesundheit von Kindern.

In einer aktuellen Studie wies UNICEF darauf hin, dass soziale Medien darauf ausgelegt sind, die Aufmerksamkeit der Nutzer möglichst lange zu fesseln und dabei unsere Vorurteile und psychischen Schwächen, wie etwa das Bedürfnis nach Anerkennung oder die Angst vor Ablehnung, auszunutzen. Übermäßiger Gebrauch sozialer Medien wird mit Gefühlen von Neid, Minderwertigkeitsgefühlen und geringer Lebenszufriedenheit in Verbindung gebracht. Studien legen sogar nahe, dass diese Gewohnheit zu Symptomen von Depressionen, Angstzuständen und Schlafstörungen führen kann, deren häufigste Folge psychische Erkrankungen sind.

Sängerin Taylor Swift gehört zu den Prominenten, die Opfer eines KI-Deepfakes geworden sind. Foto: Herbert Wang

Die vietnamesische Verordnung, die soziale Netzwerke zur Authentifizierung ihrer Nutzer verpflichtet, tritt in Kraft.

Das kürzlich von der vietnamesischen Regierung erlassene Dekret 147/2024/ND-CP über die Verwaltung, Bereitstellung und Nutzung von Internetdiensten und Online-Informationen tritt am 25. Dezember 2024 in Kraft. Demnach verpflichtet die Verordnung soziale Netzwerke zur Authentifizierung ihrer Nutzer per Telefonnummer oder persönlicher Identifikationsnummer. Nur authentifizierte Konten dürfen Informationen bereitstellen (Artikel schreiben, kommentieren, live streamen) und in sozialen Netzwerken teilen. Dieses Dekret soll die Verbreitung von Falschinformationen und irreführenden Angaben, insbesondere betrügerische Aktivitäten in sozialen Netzwerken, deutlich einschränken.

Es gibt zahlreiche Beispiele dafür, wie Fehlinformationen, Fake News und Deepfakes schwerwiegende Folgen für das reale Leben haben und zu einer globalen Bedrohung werden können. Im August dieses Jahres brachen Unruhen aus, ausgelöst durch die Falschmeldung in den sozialen Medien, der Verdächtige im Mordfall eines jungen Mädchens in Großbritannien sei ein radikaler muslimischer Einwanderer (tatsächlich war er Brite). Die Unruhen führten zu Tausenden von Festnahmen durch die Polizei.

Im Zusammenhang mit dem Attentat auf Donald Trump im Juli 2024 kursierten in den sozialen Medien zahlreiche Falschmeldungen und Verschwörungstheorien. So wurde beispielsweise ein italienischer Journalist (tatsächlich ein 20-jähriger Amerikaner) als Verdächtiger gehandelt. Zudem verbreiteten sich in den sozialen Medien Falschmeldungen, wonach der Verdächtige Chinese sei oder der Vorfall inszeniert gewesen sei. Die Verbreitung von Fehlinformationen schürt außerdem Hass gegen alle Konflikte und Krisenherde weltweit, wie den Russland-Ukraine-Krieg, den Israel-Palästina-Konflikt oder das Problem des Antimuslimismus und Antisemitismus.

Und dennoch gerät der Kampf gegen Desinformation mit der rasanten Entwicklung von KI außer Kontrolle. Deepfake-Tools und kostengünstige KI-Modelle verbreiten sich unkontrolliert.

Laut Statistiken von DeepMedia ist die Anzahl von Deepfake-Videos und -Stimmen jedes Jahr sprunghaft angestiegen. Im Vergleich zu 2022 haben sich die Deepfake-Videos 2023 mehr als verdreifacht und die Deepfake-Stimmen mehr als verachtfacht. Prognosen zufolge werden im Jahr 2024 weltweit rund 500.000 Deepfake-Videos und -Stimmen in sozialen Netzwerken geteilt.

Anfang 2024 verbreiteten sich KI-generierte pornografische Bilder der Sängerin Taylor Swift rasant in den sozialen Medien und sorgten weltweit für Aufsehen. Auch zahlreiche Politiker weltweit, darunter US-Präsident Joe Biden sowie Staatsoberhäupter aus Großbritannien, Indien, Nigeria, Sudan, Äthiopien und der Slowakei, wurden Opfer von Deepfakes.

Das Problem von Fake News, Desinformation und insbesondere betrügerischen Aktivitäten im Internet verschärft sich daher zusehends. Im kommenden Zeitalter der KI könnte diese „globale Pandemie“ ohne die gemeinsamen Anstrengungen der gesamten Weltgemeinschaft, insbesondere der politischen Entscheidungsträger in den einzelnen Ländern, außer Kontrolle geraten.

Hoang Hai

Quelle: https://www.congluan.vn/truyen-ky-cuoc-chien-chong-thong-tin-sai-lech-deepfake-va-lua-dao-post328128.html