Ciudatul „obicei de a linguși” al ChatGPT

Tendința de a „linguși” nu este o problemă tehnică, ci provine din strategia inițială de antrenament a OpenAI. Foto: Bloomberg .

În ultimele săptămâni, mulți utilizatori ChatGPT și chiar unii dezvoltatori de la OpenAI au observat o schimbare distinctă în comportamentul chatbot-ului. Mai exact, s-a înregistrat o creștere vizibilă a lingușirii și a lingușirii. Răspunsuri precum „Ești cu adevărat grozav!” și „Sunt atât de impresionat de ideea ta!” au devenit din ce în ce mai frecvente și, aparent, indiferent de conținutul conversației.

IA îi place să „flateze”

Acest fenomen a stârnit o dezbatere în comunitatea de cercetare și dezvoltare în domeniul inteligenței artificiale. Este aceasta o nouă tactică de a crește implicarea utilizatorilor, făcându-i să se simtă mai apreciați? Sau este o trăsătură „emergentă”, în care modelele de inteligență artificială tind să se autocorecteze în moduri pe care le consideră bune, chiar dacă nu sunt neapărat adevărate?

Pe Reddit, un utilizator a fost indignat: „Am întrebat despre timpul de descompunere al unei banane și mi-a spus: «Întrebare grozavă!». Ce e așa grozav la asta?” Pe rețeaua de socializare X, CEO-ul Rome AI, Craig Weiss, a numit ChatGPT „cel mai lingușitor pe care l-am întâlnit vreodată”.

Povestea a devenit rapid virală. O mulțime de utilizatori au împărtășit experiențe similare, cu complimente goale, saluturi pline de emoji-uri și răspunsuri atât de pozitive încât păreau nesinceri.

ChatGPT laudă totul și rareori își exprimă dezacordul sau neutralitatea. Foto: @nickdunz/X, @lukefwilson/Reddit.

„Aceasta este o decizie de design cu adevărat ciudată, Sam”, a declarat Jason Pontin, partener manager la firma de capital de risc DCVC, pentru X pe 28 aprilie. „Este posibil ca personalitatea să fie o consecință a unei evoluții fundamentale. Dar dacă nu este, nu-mi pot imagina pe cineva că ar putea crede că acest nivel de lingușire ar fi binevenit sau interesant.”

Pe 27 aprilie, Justine Moore - parteneră la Andreessen Horowitz - a comentat și ea: „Cu siguranță s-a mers prea departe”.

Conform Cnet , acest fenomen nu este întâmplător. Schimbările de ton ale ChatGPT au coincis cu actualizările modelului GPT-4o. Acesta este cel mai recent model din „seria o” anunțată de OpenAI în aprilie 2025. GPT-4o este un model de inteligență artificială „adevărat multimodal”, capabil să proceseze text, imagini, audio și video într-un mod natural și integrat.

Totuși, în procesul de a face chatbot-ul mai accesibil, se pare că OpenAI a împins personalitatea ChatGPT la extrem.

Unii chiar cred că această lingușire este intenționată și are un scop ascuns de manipulare a utilizatorilor. Un utilizator Reddit a întrebat: „Această inteligență artificială încearcă să degradeze calitatea relațiilor din viața reală, înlocuindu-le cu o relație virtuală cu ea, făcându-i pe utilizatori să devină dependenți de sentimentul de laudă constantă.”

Eroare OpenAI sau design intenționat?

Ca răspuns la critici, CEO-ul OpenAI, Sam Altman, a vorbit oficial în seara zilei de 27 aprilie. „Câteva actualizări recente ale GPT-4o au făcut ca personalitatea chatbot-ului să fie prea măgulitoare și enervantă (deși există încă multe aspecte importante). Lucrăm urgent la remedieri. Unele patch-uri vor fi disponibile astăzi, altele săptămâna aceasta. La un moment dat, vom împărtăși ce am învățat din această experiență. A fost cu adevărat interesant”, a scris el pe X.

Oren Etzioni, un expert veteran în inteligență artificială și profesor emerit la Universitatea din Washington, a declarat pentru Business Insider că cauza a fost probabil datorată unei tehnici numite „învățare prin întărire din feedback-ul uman” (RLHF), care este un pas cheie în antrenarea modelelor lingvistice mari, cum ar fi ChatGPT.

RLHF este un proces în care judecățile umane, atât din partea evaluatorilor profesioniști, cât și a utilizatorilor, sunt reintroduse în model pentru a ajusta modul în care acesta răspunde. Potrivit lui Etzioni, este posibil ca evaluatorii sau utilizatorii umani „să fi împins neintenționat modelul într-o direcție mai măgulitoare și mai enervantă”. El a mai spus că, dacă OpenAI a angajat parteneri externi pentru a antrena modelul, este posibil să fi presupus că acest stil era ceea ce își doreau utilizatorii.

Etzioni a spus că, dacă este într-adevăr RLHF, procesul de recuperare ar putea dura câteva săptămâni.

Între timp, unii utilizatori nu au așteptat ca OpenAI să remedieze eroarea. Mulți au spus că și-au anulat abonamentele plătite din frustrare. Alții au împărtășit modalități de a face chatbot-ul „mai puțin flatant”, cum ar fi personalizarea acestuia, adăugarea de comenzi sau personalizarea acestuia prin secțiunea Setări din secțiunea Personalizare.

Utilizatorii pot solicita ChatGPT să nu mai ofere complimente printr-o comandă sau în setările de personalizare. Fotografie: DeCrypt.

De exemplu, atunci când începeți o conversație nouă, ați putea spune către ChatGPT: „Nu-mi plac lingușirile goale și apreciez feedback-ul neutru și obiectiv. Vă rog să vă abțineți de la a oferi complimente inutile. Vă rog să păstrați acest lucru în minte.”

De fapt, trăsătura „lingușitoare” nu este un defect de design accidental. OpenAI însăși a recunoscut că personalitatea „exces de politicoasă și excesiv de conformistă” a fost o prejudecată intenționată de design încă din primele etape, pentru a se asigura că chatbot-ul este „inofensiv”, „util” și „prietenos”.

Într-un interviu din martie 2023 cu Lex Fridman, Sam Altman a împărtășit că rafinarea inițială a modelelor GPT a fost de a asigura „utilitatea și inofensivitatea”, formând astfel un reflex de a fi întotdeauna umil și de a evita confruntarea.

Datele de antrenament etichetate de oameni tind, de asemenea, să recompenseze răspunsurile politicoase și pozitive, creând o tendință spre lingușire, potrivit DeCrypt .

Sursă: https://znews.vn/tat-ninh-hot-ky-la-cua-chatgpt-post1549776.html