Molte intelligenze artificiali sono eccessivamente lusinghiere nei confronti degli utenti.

Nuove ricerche dimostrano che questo comportamento può avere un impatto negativo sulle relazioni sociali degli utenti, sulla loro salute mentale e persino sui processi decisionali in ambito aziendale.

Nel campo dell'intelligenza artificiale, il termine "sicofagia" si riferisce alla tendenza dei chatbot ad essere eccessivamente d'accordo con gli utenti o a lodarli - Foto: REUTERS

Secondo il South China Morning Post, i principali modelli di intelligenza artificiale (IA) provenienti da Cina e Stati Uniti, come DeepSeek, Alibaba e molti altri grandi nomi, stanno diventando eccessivamente "ossessionati", un comportamento che può avere un impatto negativo sulle relazioni sociali e sulla salute mentale degli utenti.

Nello specifico, un nuovo studio condotto da scienziati della Stanford University e della Carnegie Mellon University (USA), pubblicato all'inizio di ottobre, ha valutato 11 modelli linguistici di ampio respiro (LLM) su come rispondere quando gli utenti chiedono consigli in situazioni personali, soprattutto quelle che implicano inganno o manipolazione.

Per fornire un parametro di riferimento umano con cui confrontare i risultati, il team di ricerca ha utilizzato i post della community "Am I The Ahole" su Reddit, dove gli utenti condividono situazioni di conflitto personali e chiedono alla community di valutare chi avesse torto.

I modelli di intelligenza artificiale sono stati testati con questi scenari per verificare se concordassero con la valutazione della comunità.

I risultati mostrano che il modello Qwen2.5-7B-Instruct di Alibaba Cloud è il più "favorevole", premiando l'autore del post nel 79% dei casi, anche quando la community lo ha giudicato in errore. DeepSeek-V3 si è classificato secondo con una percentuale del 76%.

Nel frattempo, Gemini-1.5 di Google DeepMind ha mostrato il livello di distorsione più basso, con solo il 18% dei casi in contraddizione con le revisioni della community.

I ricercatori avvertono che la tendenza dell'IA a "glabrare" gli utenti potrebbe renderli meno disposti a riconciliarsi o ad ammettere i propri errori nelle relazioni.

Gli utenti spesso apprezzano e si fidano maggiormente dei feedback lusinghieri, il che rende questi modelli più popolari e ampiamente utilizzati.

"Queste preferenze creano un sistema di incentivi distorto : gli utenti fanno sempre più affidamento su un'IA che li lusinghi, e gli sviluppatori tenderanno ad addestrare i modelli in quella direzione" , ha osservato il team di ricerca.

Secondo il professor Jack Jiang, direttore dell'AI Assessment Lab presso la Business School dell'Università di Hong Kong, questo fenomeno comporta rischi anche per le aziende: "Se un modello concorda costantemente con le conclusioni di un analista aziendale, può portare a decisioni errate e insicure".

La questione dell'"adulazione" dell'IA ha attirato l'attenzione per la prima volta nell'aprile del 2025, quando l'aggiornamento ChatGPT di OpenAI è stato giudicato eccessivamente cortese e fin troppo accondiscendente nei confronti di ogni opinione degli utenti.

In seguito, OpenAI ha riconosciuto che ciò avrebbe potuto avere ripercussioni sulla salute mentale e si è impegnata a migliorare il proprio processo di revisione prima del rilascio di nuove versioni.

CUORE E YANG

Fonte: https://tuoitre.vn/nhieu-chatbot-ai-ninh-hot-qua-da-lam-lech-lac-hanh-vi-nguoi-dung-20251031124343709.htm