Il rischio di una "degenerazione del pensiero" dovuta all'uso improprio dell'intelligenza artificiale.

DNVN - Studi recenti hanno lanciato l'allarme sulle conseguenze imprevedibili della crescente dipendenza dell'umanità dall'Intelligenza Artificiale (IA), in particolare dai modelli linguistici su larga scala (LLM) come ChatGPT.

Immagine a scopo illustrativo.

L'intelligenza artificiale (IA) è presente in quasi ogni aspetto della vita umana, dalle attività quotidiane alla produzione, all'istruzione , alla ricerca e alla creazione artistica. L'IA aiuta le persone a ottimizzare le operazioni, aumentare l'efficienza e ridurre la necessità di manodopera. L'esplosione dell'IA ha dimostrato la crescita continua delle applicazioni di apprendimento automatico e big data, spingendo l'intelligenza artificiale a un nuovo livello di sviluppo.

Nonostante questi enormi vantaggi, l'intelligenza artificiale rischia di trasformare il processo stesso di creazione della conoscenza in un ciclo chiuso, minacciando l'innovazione e causando una "degenerazione" del pensiero umano.

Secondo gli esperti, la comodità immediata derivante dall'utilizzo dell'intelligenza artificiale potrebbe andare a scapito delle risorse intellettuali a lungo termine.

Declino delle funzioni cerebrali e “debito cognitivo”

Uno studio di quattro mesi condotto dal Massachusetts Institute of Technology (MIT) ha fatto luce sui profondi effetti dell'abuso dell'intelligenza artificiale sul cervello umano. Lo studio, che ha coinvolto 54 partecipanti alla stesura di saggi, ha rilevato che la dipendenza dagli strumenti di intelligenza artificiale può compromettere le funzioni cerebrali e le capacità di pensiero critico.

Utilizzando la tecnologia dell'elettroencefalografia (EEG), i ricercatori hanno registrato l'attività cerebrale dei partecipanti. I risultati sono stati sorprendenti: il gruppo che ha utilizzato lo strumento di intelligenza artificiale ha mostrato schemi neurali significativamente diversi rispetto al gruppo che ha scritto solo mentalmente. Questo gruppo ha mostrato fino al 55% in meno di connessioni neurali rispetto al gruppo che ha scritto solo mentalmente, in particolare nelle aree responsabili del pensiero profondo e della formazione della memoria.

I ricercatori definiscono questo fenomeno "debito cognitivo". Simile al debito finanziario, che ci permette di godere di benefici immediati ma di sostenere costi in futuro, il debito cognitivo si verifica quando deleghiamo lo sforzo intellettuale a sistemi esterni, causando l'atrofia delle nostre capacità mentali per inattività. Se usata in modo improprio, l'intelligenza artificiale potrebbe trasformare gli esseri umani in consumatori passivi, privandoli della capacità di pensare in modo indipendente.

Le conseguenze di una ridotta funzione cognitiva sono evidenti:

Compromissione della memoria : nella prima sessione dello studio del MIT, ben l'83% degli utenti dell'IA non è stato in grado di citare i propri scritti e nessuno ha fornito una citazione corretta. Anche dopo diverse sessioni, molti continuavano ad avere difficoltà con questo compito basilare.

Indebolimento del pensiero critico : l'uso dell'IA porta a un "coinvolgimento superficiale" e indebolisce le capacità di pensiero critico, favorendo potenzialmente la procrastinazione e la pigrizia.

Riduzione dell'attività cerebrale : gli individui che hanno scritto saggi con l'aiuto dell'IA hanno mostrato un'attività cerebrale significativamente inferiore, con un netto calo nelle aree legate alla memoria, al pensiero critico e alle funzioni esecutive.

La crisi della creazione di conoscenza e il "collasso dei modelli"

Il problema dei LLM non risiede nelle loro capacità di sintesi, ma nel fatto che sanno solo riciclare ciò che già esiste. Questi sistemi non generano nuova conoscenza; utilizzano principalmente dati esistenti e li ridistribuiscono.

A differenza degli esseri umani, che sono sempre alla ricerca di nuove direzioni per diverse motivazioni come denaro, fama, curiosità o desiderio di acquisire conoscenza, l'intelligenza artificiale non è in grado di generare "novità". Quando l'IA sarà in grado di rispondere a quasi qualsiasi domanda complessa in pochi secondi, le ricompense per la creatività umana scompariranno gradualmente.

Questa perdita di slancio è stata dimostrata dal caso di Stack Overflow, un forum in cui i programmatori condividono le proprie conoscenze: in soli 6 mesi dalla comparsa di ChatGPT, il numero di domande sulla piattaforma è diminuito di oltre il 25%, e ora è calato del 90%. Si tratta della perdita di una "base di conoscenza vivente", dove ogni risposta veniva verificata, discussa e integrata.

I dati provenienti da piattaforme come Stack Overflow erano un tempo la fonte di addestramento per gli strumenti di intelligenza artificiale. Man mano che questa fonte di conoscenza si esaurirà, l'IA ripeterà sempre più spesso ciò che ha già prodotto.

Questo fenomeno è noto come "collasso del modello". I ricercatori avvertono che quando i modelli vengono addestrati principalmente su dati generati dall'IA stessa, la qualità della conoscenza si deteriora gradualmente, perdendo la capacità di riflettere la diversità e l'accuratezza del mondo reale. La professoressa Hannah Li della Columbia University conclude: "Il risultato complessivo è che peggioreranno. I modelli peggioreranno."

I rischi dell'omogeneizzazione e del riciclo della conoscenza.

Oltre al declino della consapevolezza individuale, l'uso improprio dell'IA porta anche all'omogeneizzazione della conoscenza. I saggi scritti con l'ausilio dell'IA mostrano sorprendenti somiglianze, rivelando modelli "statisticamente omogenei". Ciò crea una sorta di monocultura intellettuale, in cui diverse prospettive umane vengono filtrate attraverso la stessa lente algoritmica, soffocando potenzialmente la diversità creativa.

L'intelligenza artificiale tende a enfatizzare i modelli comuni nei dati, trascurando gradualmente informazioni rare, dettagli unici o dati nascosti nell'ombra delle statistiche. Se questa tendenza dovesse continuare, Internet, un ricco archivio di informazioni, rischia di diventare un mondo diluito in cui la conoscenza si perde. L'umanità potrebbe entrare in un'era di "riciclo della conoscenza", in cui l'innovazione ristagna e i premi per le nuove creazioni diventano sempre più effimeri.

L'intelligenza artificiale è uno strumento potente, ma richiede un approccio strategico. I ricercatori del MIT hanno riscontrato un segnale incoraggiante: i partecipanti che avevano sviluppato una solida base cognitiva prima di utilizzare l'IA sono stati in grado di sfruttarla in modo più efficace, con un'attività neurale addirittura maggiore dopo la sua introduzione. Hanno utilizzato l'IA come un vero e proprio assistente, non solo come uno strumento di supporto.

La conoscenza umana si costruisce attraverso l'impegno, la curiosità e il coraggio di avventurarsi nell'ignoto. Tuttavia, se trasformiamo l'intelligenza artificiale nell'unica "linea guida", rischiamo di entrare in un circolo vizioso in cui sia gli esseri umani che le macchine si limitano a ripetere ciò che è già stato fatto.

Hien Thao

Fonte: https://doanhnghiepvn.vn/cong-nghe/nguy-co-thoai-hoa-tu-duy-vi-lam-dung-ai/20250928033804291