Het risico op 'mentale degeneratie' door misbruik van AI

DNVN - Uit recente onderzoeken blijkt dat er onvoorspelbare gevolgen kunnen zijn als mensen steeds afhankelijker worden van kunstmatige intelligentie (AI), en dan met name van grote taalmodellen (LLM) zoals ChatGPT.

Illustratiefoto.

AI is aanwezig in bijna alle aspecten van het menselijk leven, van het dagelijks leven tot productie, onderwijs , onderzoek en artistieke creatie. AI helpt mensen hun activiteiten te optimaliseren, hun productiviteit te verhogen en hun personeelsbestand te verkleinen. De explosie van AI heeft de continue groei van machine learning-toepassingen en big data-technologie aangetoond, waardoor kunstmatige intelligentie (AI) naar een nieuw niveau van ontwikkeling wordt getild.

Ondanks deze grote voordelen bestaat het risico dat AI het proces van kenniscreatie verandert in een gesloten kringloop, wat een bedreiging vormt voor de creativiteit en leidt tot 'degeneratie' van het menselijk denken.

Deskundigen zeggen dat het directe gemak van het gebruik van AI op de lange termijn mogelijk gepaard gaat met intellectuele kosten.

Hersendisfunctie en ‘cognitieve schuld’

Een vier maanden durend onderzoek van het Massachusetts Institute of Technology (MIT) heeft licht geworpen op de diepgaande effecten van overmatig gebruik van AI op het menselijk brein. De studie, waarbij 54 deelnemers aan het schrijven van essays werden gevolgd, toonde aan dat het vertrouwen op AI-tools de hersenfunctie en het kritisch denkvermogen kan aantasten.

Met behulp van elektro-encefalografie (EEG) registreerden de onderzoekers de hersenactiviteit van de deelnemers. De resultaten waren opvallend: de groep die de AI-tool gebruikte, vertoonde significant andere neurale patronen dan de groep die alleen met hun gedachten schreef. Deze groep vertoonde tot 55% minder neurale verbindingen dan de groep die alleen met hun gedachten schreef, met name in de gebieden die verantwoordelijk zijn voor diep nadenken en geheugenvorming.

Onderzoekers noemen dit fenomeen 'cognitieve schuld'. Vergelijkbaar met financiële schuld, die ons in staat stelt om nu van de voordelen te genieten maar later de kosten te betalen, ontstaat cognitieve schuld wanneer we onze mentale inspanning uitbesteden aan externe systemen, waardoor onze mentale spieren door onbruik atrofiëren. Bij overmatig gebruik zou AI mensen kunnen veranderen in passieve consumenten, waardoor ze hun vermogen om zelfstandig te denken verliezen.

De gevolgen van verminderde cognitieve prestaties zijn duidelijk:

Geheugenverlies : In de eerste sessie van het MIT-onderzoek kon 83% van de AI-gebruikers niet citeren uit eigen werk, en niemand kon nauwkeurige bronnen aanleveren. Zelfs na meerdere sessies hadden velen nog steeds moeite met deze basistaak.

Verzwakt kritisch denken : het gebruik van AI leidt tot ‘oppervlakkige betrokkenheid’ en verzwakt het kritisch denkvermogen, wat uitstelgedrag en ‘luiheid’ kan bevorderen.

Verminderde hersenactiviteit : bij degenen die hun essays met behulp van AI schreven, was de hersenactiviteit aanzienlijk lager. De hersengebieden die verband houden met geheugen, kritisch denken en uitvoerende functies waren aanzienlijk verminderd.

De crisis van kenniscreatie en 'paradigma-instorting'

Het probleem met LLM's is niet hun vermogen om te synthetiseren, maar hun vermogen om te recyclen wat al bestaat. Deze systemen genereren geen nieuwe kennis, maar consumeren bestaande data en herdistribueren deze.

In tegenstelling tot mensen, die om vele redenen, zoals geld, roem, nieuwsgierigheid of de wens om kennis te vergaren, altijd op zoek zijn naar nieuwe richtingen, kan AI geen "nieuwe dingen" produceren. Wanneer AI bijna elke complexe vraag binnen enkele seconden kan beantwoorden, zal de beloning voor menselijke creativiteit geleidelijk verdwijnen.

Dit verlies aan motivatie werd duidelijk bij Stack Overflow, het forum waar programmeurs kennis delen: in slechts zes maanden na de introductie van ChatGPT daalde het aantal vragen op het platform met meer dan 25%, en nu is het gedaald tot 90%. Dit is het verlies van een 'levende kennisbank', waar elk antwoord wordt geverifieerd, besproken en aangevuld.

Data van platforms zoals Stack Overflow wordt al lang gebruikt om AI-tools te trainen. Naarmate deze bron van kennis opdroogt, zal AI steeds vaker herhalen wat het al heeft geproduceerd.

Dit fenomeen wordt 'modelinstorting' genoemd. Onderzoekers waarschuwen dat wanneer modellen voornamelijk worden getraind op data die door AI zelf wordt gegenereerd, de kwaliteit van kennis geleidelijk afneemt en het vermogen om de diversiteit en nauwkeurigheid van de echte wereld te weerspiegelen, verloren gaat. "Het uiteindelijke resultaat is dat ze slechter worden. De modellen worden slechter", concludeert professor Hannah Li van Columbia University.

Het risico van homogenisering en recycling van kennis

Naast de achteruitgang van individuele cognitie leidt het misbruik van AI ook tot homogenisering van kennis. Essays geschreven met behulp van AI lijken opvallend veel op elkaar, wat duidt op "statistisch homogene" patronen. Dit creëert een intellectuele monocultuur waarin diverse menselijke perspectieven door dezelfde algoritmische lens worden gefilterd, wat creatieve diversiteit mogelijk verstikt.

AI heeft de neiging om gemeenschappelijke patronen in data te benadrukken en geleidelijk zeldzame informatie, unieke details of data die zich in de statistische schaduwen bevinden, te negeren. Als deze trend zich voortzet, dreigt het internet, een rijke bron van informatie, een vage wereld te worden waarin kennis verwatert. De mensheid zou een periode van "kennisrecycling" kunnen ingaan, waarin innovatie stagneert doordat de beloning voor nieuwe creatie steeds geringer wordt.

AI is een krachtig instrument, maar vereist een strategische aanpak. MIT-onderzoekers vonden een positief signaal: deelnemers die een solide cognitieve basis hadden ontwikkeld vóór ze AI gebruikten, konden het effectiever gebruiken en vertoonden zelfs een verhoogde neurale activiteit toen ze met de tool in aanraking kwamen. Ze gebruikten AI als een echte assistent, niet als een ondersteunend instrument.

Menselijke kennis is gebaseerd op inspanning, nieuwsgierigheid en de moed om het onbekende te verkennen. Als AI echter de enige 'spoorweg' wordt, lopen we het risico in een vicieuze cirkel terecht te komen waarin zowel mens als machine worden gedwongen te herhalen wat al is gedaan.

Hien Thao

Bron: https://doanhnghiepvn.vn/cong-nghe/nguy-co-thoai-hoa-tu-duy-vi-lam-dung-ai/20250928033804291