Risikoen for «degenerasjon av tenkning» på grunn av misbruk av AI.

DNVN – Nyere studier har slått alarm om de uforutsigbare konsekvensene av menneskehetens økende avhengighet av kunstig intelligens (KI), spesielt store språkmodeller (LLM-er) som ChatGPT.

Illustrativt bilde.

AI er tilstede i nesten alle aspekter av menneskelivet, fra daglige aktiviteter til produksjon, utdanning , forskning og kunstnerisk skapelse. AI hjelper folk med å optimalisere driften, øke effektiviteten og redusere arbeidskraften. Eksplosjonen av AI har demonstrert den kontinuerlige veksten av maskinlæring og stordatateknologiapplikasjoner, og presset kunstig intelligens til et nytt utviklingsnivå.

Til tross for disse enorme fordelene, risikerer AI å gjøre selve prosessen med kunnskapsskaping til en lukket sløyfe, noe som truer innovasjon og forårsaker en «degenerasjon» av menneskelig tenkning.

Ifølge eksperter kan den umiddelbare bekvemmeligheten ved å bruke AI gå på bekostning av langsiktige intellektuelle ressurser.

Nedsatt hjernefunksjon og «kognitiv gjeld»

En fire måneder lang studie fra Massachusetts Institute of Technology (MIT) har belyst de dyptgående effektene av overbruk av kunstig intelligens på den menneskelige hjernen. Studien, som fulgte 54 essaydeltakere, fant at avhengighet av kunstig intelligens-verktøy kan svekke hjernefunksjonen og kritiske tenkeevner.

Ved hjelp av elektroencefalografi (EEG)-teknologi registrerte forskere deltakernes hjerneaktivitet. Resultatene var forbløffende: Gruppen som brukte AI-verktøyet viste betydelig forskjellige nevrale mønstre sammenlignet med gruppen som bare skrev mentalt. Denne gruppen viste opptil 55 % færre nevrale forbindelser enn gruppen som bare brukte hjernen, spesielt i områder som er ansvarlige for dyp tenkning og hukommelsesdannelse.

Forskere kaller dette fenomenet «kognitiv gjeld». I likhet med finansiell gjeld, som lar oss nyte godt av nåværende fordeler, men pådra oss kostnader senere, oppstår kognitiv gjeld når vi delegerer intellektuell innsats til eksterne systemer, noe som fører til at våre mentale muskler atrofierer på grunn av manglende bruk. Hvis AI misbrukes, kan den gjøre mennesker til passive forbrukere og miste evnen til å tenke selvstendig.

Konsekvensene av redusert kognitiv funksjon er tydelige:

Hukommelsessvekkelse : I den første økten av MIT-studien klarte ikke hele 83 % av AI-brukerne å sitere fra sin egen tekst, og ingen ga en nøyaktig sitering. Selv etter flere økter slet mange fortsatt med denne grunnleggende oppgaven.

Svekkelse av kritisk tenkning : Bruk av AI fører til «overfladisk engasjement» og svekker kritisk tenkning, noe som potensielt fremmer utsettelse og latskap.

Redusert hjerneaktivitet : Personer som skrev essays med AI-assistanse aktiverte betydelig mindre hjerneaktivitet, med områder relatert til hukommelse, kritisk tenkning og eksekutiv funksjon som viste en kraftig nedgang.

Kunnskapsskapingskrisen og «modellkollapsen»

Problemet med LLM-er ligger ikke i deres synteseevne, men i det faktum at de bare vet hvordan de skal resirkulere det som allerede finnes. Disse systemene genererer ikke ny kunnskap; de bruker primært eksisterende data og omfordeler dem.

I motsetning til mennesker, som alltid søker nye retninger for ulike motivasjoner som penger, berømmelse, nysgjerrighet eller et ønske om å erobre kunnskap, kan ikke AI generere «nyhet». Når AI kan svare på nesten ethvert komplekst spørsmål på bare noen få sekunder, vil belønningen for menneskelig kreativitet gradvis forsvinne.

Dette tapet av momentum har blitt demonstrert av tilfellet Stack Overflow, et forum der programmerere deler kunnskap: på bare 6 måneder etter at ChatGPT dukket opp, gikk antallet spørsmål på plattformen ned med mer enn 25 %, og har nå gått ned med 90 %. Dette er tapet av en «levende kunnskapsbase» der hvert svar ble verifisert, debattert og supplert.

Data fra plattformer som Stack Overflow pleide å være opplæringskilden for AI-verktøy. Etter hvert som denne kunnskapskilden tørker ut, vil AI i økende grad gjenta det den allerede har produsert.

Dette fenomenet er kjent som «modellkollaps». Forskere advarer om at når modeller primært trenes på data generert av selve AI-en, forringes kunnskapskvaliteten gradvis, og mister sin evne til å gjenspeile mangfoldet og nøyaktigheten i den virkelige verden . Professor Hannah Li ved Columbia University konkluderer: «Det overordnede resultatet er at de vil bli verre. Modellene vil bli verre.»

Risikoene ved kunnskapshomogenisering og resirkulering.

I tillegg til nedgangen i individuell bevissthet, fører misbruk av AI også til homogenisering av kunnskap. Essays skrevet med hjelp av AI viser slående likheter, og avslører "statistisk homogene" mønstre. Dette skaper en slags intellektuell monokultur, der ulike menneskelige perspektiver filtreres gjennom den samme algoritmiske linsen, noe som potensielt kveler kreativt mangfold.

AI har en tendens til å legge vekt på vanlige mønstre i data, og overser gradvis sjelden informasjon, unike detaljer eller data skjult i skyggene av statistikk. Hvis denne trenden fortsetter, risikerer Internett, et rikt informasjonslager, å bli en utvannet verden der kunnskap går tapt. Menneskeheten kan gå inn i en æra med «kunnskapsresirkulering», der innovasjon stagnerer ettersom belønningen for nye kreasjoner blir stadig mer tilslørt.

AI er et kraftig verktøy, men det krever en strategisk tilnærming. MIT-forskere har funnet et oppmuntrende tegn: deltakere som hadde utviklet et solid kognitivt grunnlag før de brukte AI, var i stand til å utnytte det mer effektivt, med enda økt nevral aktivitet ved introduksjonen. De brukte AI som en ekte assistent, ikke bare et støtteverktøy.

Menneskelig kunnskap bygges gjennom innsats, nysgjerrighet og mot til å våge seg inn i det ukjente. Men hvis vi gjør AI til den eneste «jernbanen», risikerer vi å bli ledet inn i en ond sirkel der både mennesker og maskiner bare gjentar det som allerede er gjort.

Hien Thao

Kilde: https://doanhnghiepvn.vn/cong-nghe/nguy-co-thoai-hoa-tu-duy-vi-lam-dung-ai/20250928033804291