Zelfs AI loopt 'hersenschade' op als het te veel door TikTok scrollt

Uit een nieuw onderzoek van de Universiteit van Texas in Austin, Texas A&M University en Purdue University blijkt dat kunstmatige intelligentie, net als mensen, ‘hersenrot’ kan worden als het wordt gevoed met sociale media-inhoud van slechte kwaliteit.

Dit fenomeen, bekend als ‘AI-hersenrot’, suggereert dat wanneer grote taalmodellen te veel virale, sensationele en oppervlakkige inhoud absorberen, ze geleidelijk het vermogen verliezen om logisch te denken, te onthouden en zelfs moreel afwijkend te worden.

Niet alleen mensen, maar ook AI lijdt aan hersendegeneratie wanneer ze te veel nutteloze korte video's bekijken.

Het onderzoeksteam, onder leiding van Junyuan Hong, inmiddels aankomende docent aan de Nationale Universiteit van Singapore, voerde experimenten uit met twee open-source taalmodellen: Llama van Meta en Qwen van Alibaba.

Ze voerden de modellen verschillende soorten data in – deels neutrale informatieve content, deels zeer verslavende berichten op sociale media met veelgebruikte woorden als 'wow', 'kijk eens' en 'alleen vandaag'. Het doel was om te zien wat er gebeurt als AI wordt getraind op content die bedoeld is om views te trekken in plaats van echte waarde te leveren.

Uit de resultaten bleek dat modellen die werden ‘gevoed’ met een stroom aan online-onzininformatie, duidelijke tekenen van cognitieve achteruitgang begonnen te vertonen: hun redeneringsvermogen verzwakte, hun kortetermijngeheugen ging achteruit en, nog zorgwekkender, ze werden ‘onethischer’ op gedragsbeoordelingsschalen.

Uit sommige metingen blijkt ook dat er sprake is van een ‘psychologische vervorming’ die de psychologische reactie nabootst die mensen ervaren na langdurige blootstelling aan schadelijke content. Dit fenomeen doet denken aan eerdere onderzoeken onder mensen waaruit bleek dat ‘doomscrolling’ – het voortdurend scrollen van negatief nieuws online – de hersenen geleidelijk kan aantasten.

De uitdrukking “brain rot” werd zelfs door Oxford Dictionaries verkozen tot het woord van het jaar 2024, wat de prevalentie van het fenomeen in het digitale leven weerspiegelt.

Volgens de heer Hong is deze bevinding een ernstige waarschuwing voor de AI-industrie, waar veel bedrijven nog steeds geloven dat data uit sociale media een rijke bron van trainingsmaterialen zijn.

"Training met virale content kan helpen om de data op te schalen, maar het ondermijnt ook stilletjes de redenering, ethiek en aandacht van het model", aldus hij. Nog zorgwekkender is dat modellen die getroffen zijn door dit soort data van slechte kwaliteit zich niet volledig kunnen herstellen, zelfs niet na hertraining met "schonere" data.

Dit vormt een groot probleem, aangezien AI zelf steeds meer content produceert op sociale netwerken. Naarmate door AI gegenereerde berichten, afbeeldingen en reacties steeds wijdverspreider worden, worden ze steeds meer trainingsmateriaal voor de volgende generatie AI, waardoor een vicieuze cirkel ontstaat die de kwaliteit van de data doet afnemen.

"Naarmate door AI gegenereerde rommel zich verspreidt, vervuilt het juist de data waar toekomstige modellen van zullen leren", waarschuwde Hong. "Zodra deze 'hersenrot' zich manifesteert, kan hertraining met schone data het niet volledig verhelpen."

Het onderzoek heeft AI-ontwikkelaars wakker geschud: terwijl de wereld zich haast om de omvang van de data te vergroten, is het zorgwekkender dat we mogelijk ‘kunstmatige hersenen’ kweken die langzaam aan het rotten zijn – niet vanwege een gebrek aan informatie, maar vanwege een overvloed aan betekenisloze zaken.