Het risico op 'degeneratie van het denken' als gevolg van misbruik van AI.

DNVN - Recente studies hebben alarm geslagen over de onvoorspelbare gevolgen van de toenemende afhankelijkheid van de mensheid van kunstmatige intelligentie (AI), met name van grote taalmodellen (LLM's) zoals ChatGPT.

Illustratieve afbeelding.

AI is aanwezig in vrijwel elk aspect van het menselijk leven, van dagelijkse activiteiten tot productie, onderwijs , onderzoek en artistieke creatie. AI helpt mensen processen te optimaliseren, de efficiëntie te verhogen en de personeelsbehoefte te verminderen. De explosieve groei van AI heeft de voortdurende ontwikkeling van machine learning en big data-technologie aangetoond, waardoor kunstmatige intelligentie een nieuw niveau van ontwikkeling heeft bereikt.

Ondanks deze enorme voordelen dreigt AI het proces van kenniscreatie te veranderen in een gesloten kringloop, wat innovatie bedreigt en een 'degeneratie' van het menselijk denken veroorzaakt.

Volgens deskundigen kan het onmiddellijke gemak van het gebruik van AI ten koste gaan van intellectuele middelen op de lange termijn.

Achteruitgang van de hersenfunctie en "cognitieve schuld"

Een vier maanden durende studie van het Massachusetts Institute of Technology (MIT) heeft de ingrijpende effecten van overmatig AI-gebruik op het menselijk brein aan het licht gebracht. De studie, waarbij 54 deelnemers essays schreven, toonde aan dat het gebruik van AI-tools de hersenfunctie en het kritisch denkvermogen kan aantasten.

Met behulp van elektro-encefalografie (EEG) registreerden onderzoekers de hersenactiviteit van de deelnemers. De resultaten waren verbluffend: de groep die de AI-tool gebruikte, vertoonde significant andere neurale patronen vergeleken met de groep die alleen mentaal schreef. Deze groep vertoonde tot 55% minder neurale verbindingen dan de groep die alleen mentaal schreef, met name in gebieden die verantwoordelijk zijn voor diepgaand denken en geheugenvorming.

Onderzoekers noemen dit fenomeen 'cognitieve schuld'. Net als financiële schuld, waardoor we nu van voordelen kunnen genieten maar later kosten moeten maken, ontstaat cognitieve schuld wanneer we intellectuele inspanningen uitbesteden aan externe systemen, waardoor onze mentale spieren door inactiviteit verzwakken. Bij misbruik zou AI mensen kunnen veranderen in passieve consumenten, die het vermogen verliezen om zelfstandig te denken.

De gevolgen van een verminderd cognitief functioneren zijn duidelijk:

Geheugenproblemen : Tijdens de eerste sessie van het MIT-onderzoek bleek maar liefst 83% van de AI-gebruikers niet in staat om uit eigen werk te citeren, en niemand gaf een correcte bronvermelding. Zelfs na meerdere sessies hadden velen nog steeds moeite met deze basistaak.

Verzwakking van kritisch denken : Het gebruik van AI leidt tot "oppervlakkige betrokkenheid" en verzwakt kritisch denkvermogen, wat mogelijk uitstelgedrag en luiheid in de hand werkt.

Verminderde hersenactiviteit : Personen die essays schreven met behulp van AI vertoonden significant minder hersenactiviteit, waarbij gebieden die verband houden met geheugen, kritisch denken en executieve functies een scherpe daling lieten zien.

De crisis van kenniscreatie en de "instorting van het model"

Het probleem met LLM's ligt niet in hun vermogen om syntheses te maken, maar in het feit dat ze alleen bestaande gegevens kunnen hergebruiken. Deze systemen genereren geen nieuwe kennis; ze gebruiken voornamelijk bestaande data en verspreiden die opnieuw.

In tegenstelling tot mensen, die altijd op zoek zijn naar nieuwe mogelijkheden, gedreven door uiteenlopende motieven zoals geld, roem, nieuwsgierigheid of de wens om kennis te vergaren, kan AI geen 'nieuwigheid' genereren. Wanneer AI vrijwel elke complexe vraag binnen enkele seconden kan beantwoorden, zullen de beloningen voor menselijke creativiteit geleidelijk verdwijnen.

Dit verlies aan momentum is aangetoond door het voorbeeld van Stack Overflow, een forum waar programmeurs kennis delen: in slechts 6 maanden na de introductie van ChatGPT daalde het aantal vragen op het platform met meer dan 25%, en is het nu zelfs met 90% gedaald. Dit is het verlies van een "levende kennisbank", waar elk antwoord werd geverifieerd, bediscussieerd en aangevuld.

Data van platforms zoals Stack Overflow dienden vroeger als trainingsbron voor AI-tools. Naarmate deze kennisbron opdroogt, zal AI steeds vaker herhalen wat het al heeft geproduceerd.

Dit fenomeen staat bekend als "modelcollaps". Onderzoekers waarschuwen dat wanneer modellen voornamelijk worden getraind op data die door de AI zelf zijn gegenereerd, de kwaliteit van de kennis geleidelijk achteruitgaat en het vermogen om de diversiteit en nauwkeurigheid van de echte wereld te weerspiegelen verloren gaat. Professor Hannah Li van Columbia University concludeert: "Het algehele resultaat is dat ze slechter worden. De modellen zullen slechter worden."

De risico's van kennishomogenisatie en -hergebruik.

Naast de afname van het individuele bewustzijn leidt het misbruik van AI ook tot de homogenisering van kennis. Essays die met behulp van AI zijn geschreven, vertonen opvallende overeenkomsten en onthullen "statistisch homogene" patronen. Dit creëert een soort intellectuele monocultuur, waarin diverse menselijke perspectieven door dezelfde algoritmische lens worden gefilterd, wat de creatieve diversiteit mogelijk verstikt.

AI heeft de neiging om veelvoorkomende patronen in data te benadrukken, waardoor zeldzame informatie, unieke details of data die verborgen liggen in de schaduw van statistieken geleidelijk aan over het hoofd worden gezien. Als deze trend zich voortzet, dreigt het internet, een rijke bron van informatie, een verwaterde wereld te worden waarin kennis verloren gaat. De mensheid zou een tijdperk van 'kennisrecycling' kunnen ingaan, waarin innovatie stagneert naarmate de beloningen voor nieuwe creaties steeds onduidelijker worden.

AI is een krachtig instrument, maar vereist een strategische aanpak. Onderzoekers van MIT hebben een veelbelovend resultaat gevonden: deelnemers die vóór het gebruik van AI een solide cognitieve basis hadden ontwikkeld, konden AI effectiever inzetten, met zelfs een verhoogde neurale activiteit bij de introductie. Ze gebruikten AI als een echte assistent, niet slechts als een ondersteunend hulpmiddel.

Menselijke kennis wordt opgebouwd door inspanning, nieuwsgierigheid en de moed om het onbekende te verkennen. Als we echter AI als enige "spoorlijn" gebruiken, lopen we het risico in een vicieuze cirkel terecht te komen waarin zowel mensen als machines alleen maar herhalen wat al gedaan is.

Hien Thao

Bron: https://doanhnghiepvn.vn/cong-nghe/nguy-co-thoai-hoa-tu-duy-vi-lam-dung-ai/20250928033804291