Anche l'intelligenza artificiale commette errori irrazionali e manifesta pregiudizi proprio come gli esseri umani.

Nonostante operino su algoritmi e enormi insiemi di dati, i sistemi di intelligenza artificiale (IA) come ChatGPT sono ancora soggetti ai comuni bias cognitivi umani, vale a dire l'eccessiva sicurezza di sé e i pregiudizi.

L'intelligenza artificiale (IA) dà il meglio di sé quando si tratta di risolvere problemi che seguono procedure chiare e formule fisse. Tuttavia, quando si trova ad affrontare situazioni che richiedono un giudizio soggettivo o che coinvolgono preferenze personali, l'IA può commettere errori simili a quelli umani.

Un nuovo studio pubblicato sulla rivista Manufacturing & Service Operations Management, condotto da scienziati di cinque università in Canada e Australia, ha valutato il comportamento di ChatGPT (nello specifico, i modelli GPT-3.5 e GPT-4 di OpenAI) rispetto a 18 importanti distorsioni cognitive comunemente riscontrate nella psicologia umana, come la distorsione di conferma, l'effetto possessivo, la fallacia dei costi irrecuperabili e la distorsione di certezza.

I risultati hanno dimostrato che in quasi la metà degli scenari testati, ChatGPT si è comportato esattamente come un essere umano di fronte a scelte irrazionali o emotive, nonostante la reputazione del sistema di essere caratterizzato da un ragionamento logico coerente.

L'intelligenza artificiale è davvero così "imparziale" come si pensa?

Il dottor Yang Chen, professore associato di gestione operativa presso la Ivey Business School (Canada) e autore principale dello studio, ha affermato: "L'intelligenza artificiale dà il meglio di sé quando deve risolvere problemi che seguono processi chiari e formule fisse. Ma quando si trova ad affrontare situazioni che richiedono un giudizio soggettivo o che coinvolgono preferenze personali, l'IA può commettere errori proprio come gli esseri umani."

Il team di ricerca ha integrato scenari psicologici familiari in ChatGPT, aggiungendo contesti pratici come la gestione delle scorte o le negoziazioni con i fornitori.

È interessante notare che i modelli di intelligenza artificiale continuano a mostrare distorsioni cognitive anche quando il contesto della domanda viene spostato da un ambito astratto a un contesto aziendale pratico.

GPT-4 è più intelligente, ma non è perfetto.

GPT-4 è una versione migliorata di GPT-3.5, particolarmente efficace nella risoluzione di problemi di logica o probabilità. Tuttavia, nelle simulazioni soggettive, come la scelta di un'opzione rischiosa per massimizzare i profitti, GPT-4 tende a comportarsi in modo più emotivo rispetto agli esseri umani.

In particolare, lo studio ha rilevato che GPT-4 fornisce costantemente risposte distorte negli scenari di test del bias di conferma ed è più incline alla "fallacia della mano calda", ovvero la tendenza a credere che gli eventi casuali si ripeteranno in sequenza, rispetto a GPT-3.5.

Al contrario, l'intelligenza artificiale ha il potenziale per evitare alcuni dei pregiudizi che gli esseri umani spesso commettono, come ad esempio trascurare la negligenza relativa al tasso di base o cadere nella fallacia dei costi irrecuperabili.

Il motivo per cui ChatGPT mostra pregiudizi simili a quelli umani deriva dai suoi dati di addestramento, che sono pieni dei nostri stessi comportamenti e schemi di pensiero imperfetti. - Immagine: AI

L'origine dei pregiudizi nell'IA: dai dati umani stessi.

Secondo il team di ricerca, la ragione per cui ChatGPT mostra una tendenza a ragionare in modo simile agli esseri umani risiede nei dati di addestramento stessi, che sono pieni dei nostri stessi comportamenti e schemi di pensiero imperfetti. Il fatto che l'IA venga perfezionata sulla base del feedback umano rafforza ulteriormente questa tendenza, poiché il modello viene "premiato" per le risposte che sembrano ragionevoli, piuttosto che per quelle completamente accurate.

"Per ottenere risultati accurati e imparziali, utilizzate l'intelligenza artificiale per le attività che già sapete gestire bene da un computer", raccomanda il dottor Chen. "Tuttavia, per i problemi strategici o emotivi, la supervisione e l'intervento umano rimangono necessari, anche solo riformulando la domanda."

La coautrice Meena Andiappan, professoressa associata di risorse umane e management presso la McMaster University (Canada), sostiene: "L'intelligenza artificiale dovrebbe essere considerata come un dipendente con un significativo potere decisionale, il che significa che deve essere supervisionata e aderire a principi etici. Altrimenti, stiamo inavvertitamente automatizzando un pensiero fallace invece di migliorarlo."

Per saperne di più Torna alla pagina iniziale

Torniamo all'argomento

MINH HAI

Fonte: https://tuoitre.vn/ai-cung-mac-sai-lam-phi-ly-va-thien-vi-nhu-con-nguoi-20250505103652783.htm