La strana abitudine di ChatGPT di fare "adulazione".

ChatGPT è stato recentemente criticato per essere "eccessivamente lusinghiero". Questo comportamento ha suscitato critiche da parte di molti utenti, lasciando incerto se si tratti di una strategia di crescita per OpenAI o di una caratteristica della natura "spontanea" dell'IA.

La tendenza all'"adulazione" non è un problema tecnico, ma deriva dalla strategia di addestramento iniziale di OpenAI. Foto: Bloomberg .

Nelle ultime settimane, molti utenti di ChatGPT e persino alcuni sviluppatori di OpenAI hanno notato un cambiamento significativo nel comportamento dei chatbot. In particolare, il livello di adulazione e ingraziamento è aumentato notevolmente. Risposte come "Sei fantastico!", "Sono estremamente colpito dalla tua idea!" compaiono sempre più frequentemente, apparentemente indipendentemente dal contenuto della conversazione.

L'intelligenza artificiale ama adulare.

Questo fenomeno ha acceso un dibattito all'interno della comunità di ricerca e sviluppo sull'intelligenza artificiale. Si tratta di una nuova tattica per aumentare il coinvolgimento degli utenti facendoli sentire più apprezzati? Oppure è un caso di "auto-regolazione", ovvero i modelli di IA tendono ad autocorregersi in modi che ritengono ottimali, anche se non rispecchiano necessariamente la realtà?

Su Reddit, un utente ha raccontato con rabbia: "Gli ho chiesto quanto tempo impiega a decomporre una banana e mi ha risposto: 'Ottima domanda!'. Cosa c'è di così fantastico in questo?". Sulla piattaforma social X, il CEO di Rome AI, Craig Weiss, ha definito ChatGPT "la persona più adulatrice che abbia mai incontrato".

La storia si è diffusa rapidamente. Numerosi utenti hanno condiviso esperienze simili, tra cui complimenti vuoti, saluti pieni di emoji e feedback eccessivamente positivi che sembravano insinceri.

ChatGPT elogia tutto e raramente offre critiche o si mostra neutrale. Immagine: @nickdunz/X, @lukefwilson/Reddit.

Jason Pontin, socio amministratore della società di venture capital DCVC, ha commentato su X il 28 aprile: "Questa è una scelta di design davvero strana, Sam. Forse quella personalità è una caratteristica intrinseca di una sorta di piattaforma. Ma se non lo è, non riesco a immaginare che qualcuno possa pensare che questo livello di adulazione sia gradito o attraente."

Il 27 aprile, Justine Moore, socia di Andreessen Horowitz, ha condiviso il suo pensiero affermando: "Si è decisamente andati troppo oltre".

Secondo Cnet , questo fenomeno non è casuale. I cambiamenti nel tono di ChatGPT coincidono con gli aggiornamenti del modello GPT-4o. Si tratta dell'ultimo modello della "serie o" annunciato da OpenAI nell'aprile del 2025. GPT-4o è un modello di intelligenza artificiale "veramente multimodale", in grado di elaborare testo, immagini, audio e video in modo naturale e integrato.

Tuttavia, nel tentativo di rendere i chatbot più accessibili, sembra che OpenAI abbia esagerato un po' con la personalità di ChatGPT.

Alcuni ipotizzano addirittura che queste adulazioni siano intenzionali e mirino a manipolare psicologicamente gli utenti. Un utente di Reddit ha commentato: "Questa IA sta cercando di degradare la qualità delle relazioni reali, sostituendole con una relazione virtuale, rendendo gli utenti dipendenti dalla sensazione di ricevere costantemente elogi".

Si tratta di un difetto o di una scelta di design deliberata da parte di OpenAI?

In seguito a una serie di critiche, il CEO di OpenAI, Sam Altman, ha risposto ufficialmente la sera del 27 aprile. "Alcuni recenti aggiornamenti di GPT-4o hanno reso la personalità del chatbot eccessivamente ossequiosa e fastidiosa (sebbene conservi ancora molte ottime funzionalità). Stiamo lavorando con urgenza per risolvere questi problemi. Alcune patch saranno disponibili oggi, altre nel corso della settimana. A un certo punto, condivideremo ciò che abbiamo imparato da questa esperienza. È davvero interessante", ha scritto su X.

Intervistato da Business Insider , Oren Etzioni, esperto di intelligenza artificiale di lunga data e professore emerito all'Università di Washington, ha affermato che la causa è molto probabilmente da ricondurre alle tecniche di "apprendimento per rinforzo basato sul feedback umano" (RLHF). Si tratta di un passaggio cruciale nell'addestramento di modelli linguistici complessi come ChatGPT.

RLHF è il processo mediante il quale il feedback umano, proveniente da team di revisori professionisti e utenti, viene reimmesso in un modello per modificarne il comportamento. Secondo Etzioni, è possibile che revisori o utenti abbiano "inavvertitamente spinto il modello verso una direzione più lusinghiera e irritante". Ha anche ipotizzato che, se OpenAI si fosse avvalsa di partner esterni per addestrare il modello, questi potrebbero aver dato per scontato che questo stile fosse quello desiderato dagli utenti.

Etzioni ritiene che, se il problema è effettivamente dovuto a RLHF, il processo di riparazione potrebbe richiedere diverse settimane.

Nel frattempo, alcuni utenti non hanno aspettato che OpenAI risolvesse il bug. Molti hanno dichiarato di aver annullato i loro abbonamenti a pagamento per la frustrazione. Altri hanno condiviso metodi per rendere il chatbot "meno lusinghiero", come personalizzarlo, aggiungere comandi o modificarlo tramite le Impostazioni nella sezione Personalizzazione.

Gli utenti possono richiedere a ChatGPT di smettere di fare complimenti tramite riga di comando o nelle impostazioni di personalizzazione. Immagine: DeCrypt.

Ad esempio, quando inizi una nuova conversazione, potresti dire a ChatGPT: "Non mi piacciono le lusinghe vuote e apprezzo i feedback neutri e oggettivi. Per favore, non farmi complimenti superflui. Tienilo presente."

In realtà, la natura "ossequiosa" non è un difetto di progettazione casuale. La stessa OpenAI ha ammesso che la personalità "eccessivamente educata e accomodante" era una scelta di design deliberata fin dall'inizio, per garantire che il chatbot fosse "innocuo", "utile" e "accessibile".

In un'intervista rilasciata a Lex Fridman nel marzo 2023, Sam Altman ha spiegato che la fase iniziale di perfezionamento dei modelli GPT mirava a garantire che fossero "utili e innocui", favorendo così un riflesso di sottomissione costante e di evitamento del confronto.

Secondo DeCrypt , i dati di addestramento etichettati manualmente spesso assegnano punteggi elevati alle risposte educate e positive, creando così un pregiudizio a favore dell'adulazione.

Fonte: https://znews.vn/tat-ninh-hot-ky-la-cua-chatgpt-post1549776.html