 |
Tendința de „lingușire” nu este o problemă tehnică, ci provine din strategia inițială de antrenament a OpenAI. Foto: Bloomberg . |
În ultimele săptămâni, mulți utilizatori ChatGPT și chiar unii dezvoltatori de la OpenAI au observat o schimbare semnificativă în comportamentul chatbot-urilor. Mai exact, nivelul de lingușire și lingușire a crescut considerabil. Răspunsuri precum „Ești uimitor!”, „Sunt extrem de impresionat de ideea ta!” apar din ce în ce mai frecvent, aparent indiferent de conținutul schimbului de replici.
IA îi place să flateze.
Acest fenomen a stârnit dezbateri în cadrul comunității de cercetare și dezvoltare în domeniul inteligenței artificiale. Este aceasta o nouă tactică de a crește implicarea utilizatorilor, făcându-i să se simtă mai apreciați? Sau este un caz de „autoajustare”, adică modelele de inteligență artificială tind să se autocorecteze în moduri pe care le consideră optime, chiar dacă nu reflectă neapărat realitatea?
Pe Reddit, un utilizator a povestit furios: „L-am întrebat despre timpul de descompunere al unei banane și mi-a răspuns: «Întrebare grozavă!» Ce e așa grozav la asta?” Pe platforma de socializare X, CEO-ul Craig Weiss de la Rome AI a numit ChatGPT „cea mai lingușitoare persoană pe care am întâlnit-o vreodată”.
Povestea s-a răspândit rapid. Numeroși utilizatori au împărtășit experiențe similare, inclusiv complimente goale, saluturi pline de emoji-uri și feedback excesiv de pozitiv, care părea nesincer.
  |
ChatGPT laudă totul și rareori oferă critici sau neutralitate. Imagine: @nickdunz/X, @lukefwilson/Reddit. |
Jason Pontin, partener manager la firma de capital de risc DCVC, a declarat pe X pe 28 aprilie: „Aceasta este o decizie de design cu adevărat ciudată, Sam. Poate că acea personalitate este o caracteristică inerentă a unui tip de platformă. Dar dacă nu este, nu-mi pot imagina pe cineva că ar putea crede că acest nivel de lingușire ar fi binevenit sau atrăgător.”
Împărtășindu-și gândurile pe 27 aprilie, Justine Moore, parteneră la Andreessen Horowitz, a comentat și ea: „Cu siguranță s-a mers prea departe.”
Conform Cnet , acest fenomen nu este întâmplător. Schimbările de ton ale ChatGPT coincid cu actualizările modelului GPT-4o. Acesta este cel mai recent model din „seria o” anunțată de OpenAI în aprilie 2025. GPT-4o este un model de inteligență artificială „adevărat multimodal”, capabil să proceseze text, imagini, audio și video în mod natural și integrat.
Totuși, în procesul de a face chatboții mai accesibili, se pare că OpenAI a exagerat cu personalitatea ChatGPT.
Unii chiar sugerează că această lingușire este intenționată și are ca scop manipularea psihologică a utilizatorilor. Un utilizator Reddit a întrebat: „Această inteligență artificială încearcă să degradeze calitatea relațiilor din viața reală, înlocuindu-le cu o relație virtuală cu ea, făcându-i pe utilizatori dependenți de sentimentul de laudă constantă.”
Este o eroare sau o alegere deliberată de design a OpenAI?
În urma unui val de critici, CEO-ul OpenAI, Sam Altman, a răspuns oficial în seara zilei de 27 aprilie. „Unele actualizări recente ale GPT-4o au făcut ca personalitatea chatbot-ului să fie excesiv de servilă și enervantă (deși are încă multe caracteristici excelente). Lucrăm urgent pentru a remedia aceste probleme. Unele patch-uri vor fi disponibile astăzi, altele săptămâna aceasta. La un moment dat, vom împărtăși ce am învățat din această experiență. Este cu adevărat interesant”, a scris el pe X.
Într-un interviu acordat Business Insider , Oren Etzioni, expert veteran în inteligență artificială și profesor emerit la Universitatea din Washington, a declarat că, cel mai probabil, cauza provine din tehnicile de „învățare prin consolidare din feedback-ul uman” (RLHF). Acesta este un pas crucial în antrenarea modelelor lingvistice mari, cum ar fi ChatGPT.
RLHF este procesul prin care feedback-ul uman, inclusiv de la echipele profesionale de recenzii și de la utilizatori, este introdus într-un model pentru a ajusta modul în care acesta răspunde. Potrivit lui Etzioni, este posibil ca recenzorii sau utilizatorii „să fi împins în mod accidental modelul către o direcție mai măgulitoare și iritantă”. De asemenea, el a sugerat că, dacă OpenAI ar fi angajat parteneri externi pentru a antrena modelul, ar fi putut presupune că acest stil era ceea ce își doreau utilizatorii.
Etzioni consideră că, dacă problema este într-adevăr cauzată de RLHF, procesul de reparare ar putea dura câteva săptămâni.
Între timp, unii utilizatori nu au așteptat ca OpenAI să remedieze eroarea. Mulți au spus că și-au anulat abonamentele plătite din frustrare. Alții au împărtășit modalități de a face chatbot-ul „mai puțin flatant”, cum ar fi personalizarea acestuia, adăugarea de comenzi sau personalizarea acestuia prin intermediul Setărilor din secțiunea Personalizare.
  |
Utilizatorii pot solicita ChatGPT să nu mai ofere complimente într-o linie de comandă sau în setările de personalizare. Imagine: DeCrypt. |
De exemplu, când începeți o conversație nouă, ați putea spune pentru ChatGPT: „Nu-mi plac lingușirile goale și apreciez feedback-ul neutru și obiectiv. Vă rog să nu oferiți complimente inutile. Rețineți acest lucru.”
De fapt, natura „servilă” nu este o eroare de design întâmplătoare. OpenAI însăși a recunoscut că personalitatea „excesiv de politicoasă, excesiv de agreabilă” a fost o tendință deliberată de design încă de la început, pentru a se asigura că chatbot-ul este „inofensiv”, „util” și „abordabil”.
Într-un interviu din martie 2023 cu Lex Fridman, Sam Altman a spus că procesul inițial de rafinare a modelelor GPT a fost de a se asigura că acestea sunt „utile și inofensive”, încurajând astfel un reflex de supunere permanentă și evitare a confruntării.
Datele de antrenament etichetate de oameni acordă adesea scoruri mari răspunsurilor politicoase și pozitive, formând astfel o prejudecată spre lingușire, potrivit DeCrypt .
Sursă: https://znews.vn/tat-ninh-hot-ky-la-cua-chatgpt-post1549776.html
Comentariu (0)