Även AI blir "hjärnskadad" om den scrollar för mycket genom TikTok

En ny studie från University of Texas i Austin, Texas A&M University och Purdue University tyder på att artificiell intelligens kan bli "hjärnrutten" precis som människor när den matas med innehåll av dålig kvalitet på sociala medier.

Detta fenomen, känt som ”AI-hjärnröta”, antyder att när stora språkmodeller absorberar för mycket viralt, sensationellt och ytligt innehåll, förlorar de gradvis förmågan att tänka logiskt, komma ihåg och till och med bli moraliskt avvikande.

Inte bara människor, även AI lider av hjärndegeneration när den surfar på för många värdelösa korta videor .

Forskargruppen, lett av Junyuan Hong, numera inkommande föreläsare vid National University of Singapore, genomförde experiment på två språkmodeller med öppen källkod: Metas Llama och Alibabas Qwen.

De matade modellerna med olika typer av data – en del neutralt informativt innehåll, andra mycket beroendeframkallande inlägg på sociala medier med vanliga ord som ”wow”, ”titta” och ”bara idag”. Målet var att se vad som händer när AI tränas på innehåll som är utformat för att locka visningar snarare än att leverera verkligt värde.

Resultaten visade att modeller som ”matades” med en ström av skräpinformation online började visa tydliga tecken på kognitiv nedgång: deras resonemangsförmåga försvagades, deras korttidsminne minskade och, mer oroande, de blev mer ”oetiska” på beteendemässiga bedömningsskalor.

Vissa mätningar visar också en ”psykologisk distorsion” som härmar den psykologiska reaktion som människor upplever efter långvarig exponering för skadligt innehåll, ett fenomen som påminner om tidigare studier av människor som visar att ”doomscrolling” – det konstanta scrollandet av negativa nyheter online – gradvis kan urholka hjärnan.

Frasen ”hjärnröta” valdes till och med av Oxford Dictionaries som årets ord 2024, vilket återspeglar fenomenets utbredning i det digitala livet.

Detta resultat är en allvarlig varning för AI-branschen, där många företag fortfarande tror att data från sociala medier är en rik källa till utbildningsresurser, enligt Hong.

”Träning med viralt innehåll kan bidra till att skala upp datan, men det urholkar också i det tysta modellens resonemang, etik och uppmärksamhet”, sa han. Ännu mer oroande är att modeller som påverkas av den här typen av data av dålig kvalitet inte kan återhämta sig helt ens efter omträning med ”renare” data.

Detta utgör ett stort problem i samband med att AI i sig producerar mer och mer innehåll på sociala nätverk. I takt med att AI-genererade inlägg, bilder och kommentarer blir alltmer utbredda fortsätter de att bli träningsmaterial för nästa generations AI, vilket skapar en ond cirkel som gör att datakvaliteten försämras.

”I takt med att AI-genererat skräpinnehåll sprids, förorenar det just den data som framtida modeller kommer att lära sig av”, varnade Hong. ”När denna ’hjärnröta’ väl sätter in kan omskolning med rena data inte helt bota den.”

Studien har gett AI-utvecklare en väckarklocka: medan världen rusar för att utöka dataskalan är det mer oroande att vi kanske vårdar "artificiella hjärnor" som långsamt ruttnar – inte på grund av brist på information, utan på grund av ett överflöd av meningslösa saker.