Soziale Medien, KI und Verstärkungsalgorithmen: Die „atomare“ Kombination, die die Welt auf den Kopf stellt

Hassaufstachelungsalgorithmus

Die Algorithmen sozialer Medien dienen längst nicht mehr nur dazu, unterhaltsame Inhalte vorzuschlagen, sondern verstärken auch Hassrede und extremistische Ideologien. UN-Generalsekretär António Guterres warnte davor, dass einige Social-Media-Plattformen zu „toxischen Müllhalden“ geworden seien, die mit Hassrede und Desinformation gefüllt sind und so die Verbreitung von Extremismus befeuern.

Studien aus der Praxis zeigen, dass Empfehlungsalgorithmen das Problem innerhalb weniger Tage verschärfen können. So ergab beispielsweise eine britische Studie, dass der TikTok-Algorithmus den Anteil frauenfeindlicher Inhaltsempfehlungen innerhalb von nur fünf Tagen vervierfachte – von 13 % auf 56 % der Videos .

Die Forscher erklären, dass der Algorithmus automatisch die Schwächen der Nutzer ausnutzt (wie etwa Gefühle der Einsamkeit, des Kontrollverlusts oder des Hasses) und extremistische Inhalte in attraktive „Unterhaltung“ verwandelt, um Zuschauer anzulocken.

In den sozialen Medien können heutzutage selbst kleinste Informationen oder haltlose Gerüchte leicht zu Gewaltausbrüchen führen. Ein typisches Beispiel sind die Unruhen in Großbritannien im Jahr 2024. Nach dem Anschlag in Southport verbreiteten sich in den sozialen Medien schnell falsche Gerüchte über den Verdächtigen – er sei Muslim oder Flüchtling –, begleitet von islam- und einwanderungsfeindlichen Äußerungen. Laut einem Bericht des US-Rechnungshofs (GAO) aus dem Jahr 2024 war fast ein Drittel der Internetnutzer online Hassreden ausgesetzt.
Insbesondere eine Reihe schwerwiegender Proteste und Ausschreitungen der Generation Z oder von Studenten in verschiedenen Ländern, von Asien über Afrika bis Lateinamerika, wurden alle über Social-Media-Plattformen initiiert und angeheizt, und zwar nach fast demselben Schema: Man instrumentalisierte ein Problem und stachelte dann die gesamte Gesellschaft auf.

Er siegte — KI-Software und Verstärkungsalgorithmen manipulieren sowohl die virtuelle als auch die reale Welt . Illustration: Nafets

Der größte Teil der Welt ist in eine "Illusion" versunken.

Die rasante Verbreitung von KI gerät außer Kontrolle, da sie es nahezu jedem ermöglicht, in beispiellosem Ausmaß und Tempo eine „Fake-News-Fabrik“ zu errichten. KI-Modelle wie GPT, Claude oder LLaMA können in Sekundenschnelle automatisch eine Vielzahl verzerrter Artikel, Bilder und Videos generieren. Ein KI-Bot-System kann gleichzeitig Tausende von Beiträgen oder Kommentaren erstellen und teilen und so Fake News und Hetze zu Online-Trends machen.

Eine Studie der RIT University in den USA stellte fest: „KI hat es sehr schnell gemacht, alle Arten von Fehlinformationen zu verstärken… KI-Bots können diese Inhalte im Internet verbreiten, weil sie nicht auf Menschen angewiesen sind, um sie zu erstellen.“

Heute kann man mit einem KI-Tool für nur wenige Dutzend Dollar im Monat Tausende gefälschte Bilder und Videos erstellen – von Stimmen über Fotos bis hin zu Videos. Die Raffinesse und Verbreitung dieser Tools sind so groß, dass wir uns alle insgeheim fragen: Ist das, was wir in den sozialen Medien sehen, KI-generiert?

Ironischerweise taucht der Großteil der Weltbevölkerung täglich stundenlang in diese „virtuelle“ Welt ein – und genießt sie geradezu süchtig. Laut dem Bericht „Digital 2025“ nutzen etwa 5,2 bis 5,6 Milliarden Menschen soziale Netzwerke, das entspricht 64 % der Weltbevölkerung. Die durchschnittliche Nutzungsdauer liegt bei rund 2 Stunden und 20 Minuten pro Tag.

Notwendigkeit, Atombomben zu kontrollieren

Da Falschnachrichten und Desinformation immer billiger und gefährlicher produziert werden, ist die Kontrolle über Inhalte im Internet nahezu außer Kontrolle geraten. Der Technologieexperte Lukasz Olejnik vom King's College London (UK) kommentierte: „Monat für Monat werden die [Fake-News-]Fabriken billiger, raffinierter und schwerer zu entdecken.“

Eine RAND-Studie aus dem Jahr 2024 wies unterdessen darauf hin, dass die Aussicht, dass KI in der Lage sein wird, das Internet mit gefälschten Social-Media-Konten zu „überfluten“, klar und ohne ein paar Tricks nahezu unvermeidlich sei.

Die Nukleartechnologie war einst eine großartige Erfindung der Menschheit, ebenso wie die sozialen Medien. Doch unkontrolliert könnte sie katastrophale Folgen haben. Genauso könnten soziale Medien, künstliche Intelligenz und Verstärkungsalgorithmen, wenn sie ungehindert agieren, im Cyberspace „Atombomben“ auslösen – und mächtig genug sein, die reale Welt zu zerstören.

Quelle: https://congluan.vn/mang-xa-hoi-ai-va-thuat-toan-khuech-dai-su-ket-hop-nguyen-tu-dang-lam-dao-lon-the-gioi-10317608.html