Sociale media, AI en versterkingsalgoritmen: de ‘atomische’ combinatie die de wereld op zijn kop zet

(NB&CL) Slechts een klein incident, maar met de "atomische" combinatie van sociale netwerken, AI en versterkingsalgoritmen kan het ook een golf van extremisme op nationale en zelfs wereldwijde schaal veroorzaken. De virtuele wereld heeft een ernstige impact op het echte leven en raakt steeds meer uit de hand.

Algoritme voor haatzaaien

Algoritmes voor sociale media draaien niet langer alleen om het suggereren van vermakelijke content, maar versterken ook haatzaaiende uitlatingen en extremistische ideologie. VN-secretaris-generaal Antonio Guterres waarschuwde dat sommige socialemediaplatforms "giftige stortplaatsen" zijn geworden, vol haatzaaiende uitlatingen en desinformatie, wat de verspreiding van extremisme aanwakkert.

Praktijkonderzoek toont aan dat aanbevelingsalgoritmen het probleem binnen een paar dagen kunnen verergeren. Zo bleek uit een Brits onderzoek dat het algoritme van TikTok in slechts vijf dagen tijd het aantal aanbevelingen voor misogyne content verviervoudigde van 13% naar 56%.

De onderzoekers leggen uit dat het algoritme zich automatisch richt op de kwetsbaarheden van gebruikers (zoals gevoelens van eenzaamheid, verlies van controle, haat) en extremistische content omzet in aantrekkelijk 'entertainment' om kijkers te trekken.

Tegenwoordig kunnen zelfs kleine stukjes informatie of ongefundeerde geruchten op sociale media gemakkelijk aanleiding geven tot geweld. Een typisch voorbeeld zijn de rellen in het Verenigd Koninkrijk in 2024. Na de aanslag in Southport verspreidden valse geruchten over de verdachte – dat hij moslim of vluchteling was – zich razendsnel op sociale media, samen met anti-moslim- en anti-immigrantentaal. Volgens een rapport uit 2024 van het Amerikaanse General Accounting Office (GAO) is bijna een derde van de internetgebruikers online blootgesteld aan haatzaaiende uitlatingen.
Met name de recente reeks van ernstige protesten en rellen door Generatie Z of studenten in verschillende landen, van Azië en Afrika tot Latijns-Amerika, werden allemaal geïnitieerd en aangewakkerd op socialemediaplatformen, met vrijwel hetzelfde scenario: een probleem werd uitgebuit en vervolgens werd de hele samenleving opgehitst.

AI-software en versterkingsalgoritmen manipuleren zowel de virtuele als de echte wereld . Illustratie: Nafets

Het grootste deel van de wereld is ondergedompeld in een 'illusie'

De zaken lopen uit de hand door de explosie van AI, waardoor bijna iedereen op ongekende schaal en snelheid een "nepnieuwsfabriek" kan creëren. AI-modellen zoals GPT, Claude of LLaMA kunnen in een fractie van een seconde automatisch een reeks vervormde artikelen, afbeeldingen en video's genereren. Een AI-botsysteem kan tegelijkertijd duizenden berichten of reacties creëren en delen, waardoor nepnieuws en giftig nieuws online in "trends" worden omgezet.

Uit een onderzoek van de Amerikaanse RIT-universiteit blijkt: "AI heeft het heel snel gemaakt om allerlei soorten desinformatie te verspreiden... AI-bots kunnen deze content over het internet verspreiden, omdat ze niet afhankelijk zijn van mensen om deze te creëren."

Tegenwoordig kan iemand voor slechts een paar dozijn dollar per maand voor een AI-tool duizenden nepfoto's en -video's maken van alles, van stemmen en foto's tot video's. De mate van verfijning en prevalentie is zo groot dat we allemaal wel eens de vraag hebben: is wat we op sociale media zien door AI gegenereerd?

Maar de ironie is dat het grootste deel van de wereld dagelijks urenlang ondergedompeld is in die "virtuele" wereld – en er zelfs van geniet alsof het een "verslaving" is. Volgens het Digital 2025-rapport gebruiken zo'n 5,2 tot 5,6 miljard mensen sociale netwerken, wat neerkomt op 64% van de wereldbevolking. En de gemiddelde tijd die elke persoon besteedt aan sociale netwerken schommelt rond de 2 uur en 20 minuten per dag.

Noodzaak om "atoombommen" onder controle te krijgen

Nu nepnieuws en desinformatie steeds goedkoper en gevaarlijker worden geproduceerd, is de controle over de content op internet bijna aan de menselijke controle onttrokken. Technologie-expert Lukasz Olejnik van King's College London (VK) merkte op: "Elke maand worden de [nepnieuws]fabrieken goedkoper, scherper en moeilijker te detecteren."

Ondertussen wees een RAND-onderzoek uit 2024 erop dat het vooruitzicht dat AI het internet kan ‘vullen’ met nep-accounts op sociale media duidelijk en vrijwel onvermijdelijk is, zonder dat er iets misgaat.

Nucleaire technologie was ooit een geweldige uitvinding van de mensheid, net als sociale media. Maar als er niets aan gedaan wordt, kan het een ramp veroorzaken. Evenzo kunnen sociale media, AI en versterkingsalgoritmen, als ze hun gang gaan, "atoombommen" in cyberspace tot ontploffing brengen – en krachtig genoeg zijn om de echte wereld te vernietigen.

Bron: https://congluan.vn/mang-xa-hoi-ai-va-thuat-toan-khuech-dai-su-ket-hop-nguyen-tu-dang-lam-dao-lon-the-gioi-10317608.html