Het Massachusetts Institute of Technology heeft zojuist een onderzoek gepubliceerd waaruit blijkt dat te veel vertrouwen op ChatGPT tot hersendegeneratie leidt.
In een laboratorium van het MIT Media Lab kregen 54 vrijwilligers tussen de 18 en 39 jaar een ogenschijnlijk eenvoudige taak: in 20 minuten een essay schrijven voor de SAT.
Wat ze echter niet wisten, was dat ze deelnamen aan 's werelds eerste onderzoek met hersenscantechnologie om de werkelijke impact van ChatGPT op het menselijk brein te onderzoeken. En de resultaten die de wetenschappers behaalden, deden hen "huiveren".
Dr. Nataliya Kosmyna, hoofdonderzoeker van het project, monitorde de hersenactiviteit van de vrijwilligers in 32 verschillende hersengebieden gedurende vier maanden met behulp van EEG-apparatuur. Ze verdeelde hen in drie groepen: de eerste groep gebruikte ChatGPT om hen te helpen schrijven, de tweede groep gebruikte Google Zoeken om informatie te vinden en de derde groep vertrouwde uitsluitend op hun eigen denkvermogen.
Vanaf het begin waren de verschillen duidelijk. De ChatGPT-groep vertoonde de laagste niveaus van hersenactiviteit van alle drie de groepen en "presteerde voortdurend ondermaats op neuraal, taalkundig en gedragsmatig vlak". Ze werden steeds lui met elk essay en tegen het einde van het onderzoek kopieerden velen van hen simpelweg content van ChatGPT.
Wat de onderzoekers het meest zorgen baarde, was niet de luiheid zelf, maar wat ze ontdekten via hersenscans. De essays van de ChatGPT-groep waren "extreem vergelijkbaar en misten originaliteit", met vergelijkbare formuleringen en ideeën. Twee docenten Engels die waren uitgenodigd om de essays te beoordelen, beschreven ze als "levenloos" en "inhoudelijk leeg".
Maar dat is slechts de oppervlakte van het probleem. EEG-gegevens toonden aan dat ChatGPT-gebruikers een lage mate van executieve controle en aandacht hadden. Tegen het einde van het derde essay hadden velen van hen de hele taak al aan ChatGPT overgelaten. "Ze zeiden gewoon: 'Geef me het essay, verfijn deze zin, redigeer hem'", zegt Kosmyna.
De groep die zonder hulpmiddelen schreef, vertoonde daarentegen de hoogste neurale connectiviteit, met name in de alfa-, theta- en delta-hersengolfbanden – gebieden die verband houden met creativiteit, geheugen en semantische verwerking. Ze waren meer betrokken, nieuwsgierig en tevreden met hun werk. De Google Search-groep vertoonde ook een hoge tevredenheid en positieve hersenactiviteit – een opmerkelijk verschil met het zoeken naar informatie in AI-chatbots.
Het omkeerexperiment onderstreepte verder de nadelen van het vertrouwen op AI. Wanneer ze gedwongen werden een oud artikel te herschrijven zonder ChatGPT, ondervonden degenen die AI hadden gebruikt ernstige problemen: ze konden zich het essay dat ze hadden geschreven nauwelijks herinneren en vertoonden zwakkere alfa- en theta-hersengolven. Opvallend was dat 83,3% van hen niet kon citeren uit de essays die ze slechts enkele minuten eerder hadden voltooid.
Door te vertrouwen op AI-hulpmiddelen zal het menselijk brein snel degenereren.
De hersenscans onthulden ook een schokkend cijfer: de neurale verbindingen van ChatGPT-gebruikers daalden met 47%, van 79 naar slechts 42. Zoals Kosmyna uitlegt: "De taak was volbracht, en je zou kunnen zeggen dat het efficiënt en gemakkelijk was. Maar zoals we in ons onderzoek aantonen, integreer je in wezen niets in je geheugennetwerk."
Kosmyna besloot de resultaten zelfs vóór de peer review te publiceren, omdat ze vreesde dat beleidsmakers "GPT voor kleuters" zouden introduceren zonder de gevolgen volledig te begrijpen. "De zich ontwikkelende hersenen lopen het grootste risico", waarschuwde ze.
Psychiater Zishan Khan, die kinderen en adolescenten behandelt, deelt een soortgelijke observatie: "Vanuit psychiatrisch perspectief vind ik dat een te grote afhankelijkheid van LLM's onbedoelde psychologische en cognitieve gevolgen kan hebben, vooral bij jonge mensen wier hersenen nog in ontwikkeling zijn."
De studie bracht ook een interessante paradox aan het licht: hoewel ChatGPT de taakvoltooiing met 60% verhoogde, verminderde het de "Germaanse cognitieve belasting" met 32% – de inspanning die nodig is om geheugen en intelligentie te gebruiken om informatie om te zetten in schema's – wat essentieel is voor echt leren. Dit is wat de onderzoekers "cognitieve schuld" noemen – net als technische schuld, maar dan voor de hersenen.
Wat vooral zorgwekkend is, is dat dit effect niet gemakkelijk omkeerbaar lijkt. Wanneer ze gedwongen werden om zonder de assistentie van AI te schrijven, presteerden degenen die gewend waren ChatGPT te gebruiken slechter dan degenen die nog nooit AI hadden gebruikt. Dit is niet zomaar afhankelijkheid, het is cognitieve atrofie – alsof je spieren vergeten zijn hoe ze moeten werken.
Na slechts 4 maanden testen heeft ChatGPT al een enorme impact gehad op het menselijk brein.
Het onderzoek biedt echter wel hoop. Toen de groep die puur schreef ChatGPT mocht gebruiken, vertoonden ze een significante toename in hersenconnectiviteit over alle EEG-frequentiebanden. Dit suggereert dat AI, mits correct gebruikt, het leren kan verbeteren in plaats van belemmeren.
Kosmyna en haar team voeren momenteel een soortgelijk onderzoek uit naar hersenactiviteit in software engineering en programmeren met en zonder AI. Ze onthulde dat "de resultaten zelfs nog slechter waren", wat belangrijke gevolgen zou kunnen hebben voor veel bedrijven die beginnende programmeurs willen vervangen door AI.
Interessant genoeg heeft Kosmyna opzettelijk een "AI-val" in het onderzoek ingebouwd door te voorspellen dat gebruikers LLM zouden gebruiken om het artikel samen te vatten. Hierdoor "waanden" de AI-tools zich in de veronderstelling dat het onderzoek GPT-4o gebruikte – informatie die volledig ontbrak in het oorspronkelijke artikel.
Kosmyna besloot de studie te publiceren zonder peer review – iets wat ze nog nooit eerder had gedaan. Ze werd gemotiveerd door de angst dat een beleidsmaker binnen zes tot acht maanden zou besluiten: "Laten we GPT toepassen op kleuters." "Ik denk dat dat absoluut verschrikkelijk en schadelijk zou zijn", zegt ze. "Het zijn juist de hersenen van jonge kinderen die zich ontwikkelen en het grootste risico lopen."
Bron: https://khoahocdoisong.vn/nao-nguoi-thoai-hoa-sau-nhieu-ngay-dung-chatgpt-post1549233.html
Reactie (0)