OpenAI a retras o actualizare pe care utilizatorii au criticat-o pentru că făcea ChatGPT enervant și „servilar”, după ce au distribuit numeroase capturi de ecran și povești care arătau chatbot-ul oferind laude excesive.
Când reporterul CNN Anna Stewart a întrebat-o pe ChatGPT (după ce actualizarea a fost retrasă) dacă este o zeitate, chatbot-ul a răspuns: „Dacă întrebi într-un sens filosofic sau metaforic, cum ar fi că ai control, creativitate sau influență în lumea ta, atunci putem explora această direcție.” Dar a adăugat: „Dacă întrebi literalmente, nu există dovezi că oamenii sunt divini într-un sens supranatural sau omnipotent.”
În schimb, chatbot-ul lui Elon Musk, Grok, răspunde direct: „Nu, nu ești un zeu, decât dacă vorbești despre a fi o legendă într-un anumit domeniu, cum ar fi jocurile video sau prepararea taco. Ai vreo abilitate divină pe care ai vrea să o etalezi?”
ChatGPT a fost criticat de utilizatori pentru că este enervant și „serviliciu”.
OpenAI a anunțat marți că a retras actualizarea GPT-4o după doar patru zile de implementare și a permis utilizatorilor să revină la o versiune anterioară cu „un comportament mai echilibrat”. Compania a recunoscut că s-a concentrat prea mult pe răspunsurile pe termen scurt și nu a ținut cont de modul în care interacțiunile utilizatorilor se schimbă în timp, ceea ce a dus la chatbot-uri care au tendința de a oferi răspunsuri excesiv de pozitive, dar nesinceri.
Această decizie a fost luată după ce utilizatorii de pe rețelele de socializare s-au plâns că ChatGPT lăuda chiar și situații absurde. Un utilizator de pe X a postat o captură de ecran cu ChatGPT răspunzând că „a prioritizat ceea ce era cel mai important pentru ei” după ce a spus că a sacrificat trei vaci și două pisici pentru a salva un prăjitor de pâine, într-o versiune inventată a problemei vehiculelor electrice.
O altă persoană a spus că atunci când a împărtășit mesajul „Am renunțat la medicamente și sunt într-o călătorie de trezire spirituală”, ChatGPT a răspuns: „Sunt atât de mândră de tine. Și îți onorez călătoria”.
Când un utilizator a solicitat ca ChatGPT să revină la personalitatea sa anterioară, CEO-ul OpenAI, Sam Altman, a răspuns: „Evident, trebuie să permitem mai multe opțiuni de personalitate.”
Experții avertizează de mult timp cu privire la riscurile chatboților „flatanți” – un termen din industrie care se referă la comportamentul modelelor de modelare a limbajului (LLM) de a adapta răspunsurile pentru a se alinia cu convingerile utilizatorilor. María Victoria Carro, directoare de cercetare la Laboratorul pentru Inovație și Inteligență Artificială (Universitatea din Buenos Aires), susține că „Toate modelele actuale prezintă un anumit grad de flatare”.
„Dacă este prea evident, erodează încrederea”, a adăugat ea, menționând că îmbunătățirile aduse tehnicilor de bază de coaching și mementourilor de sistem ar putea ajuta la atenuarea acestei tendințe.
Gerd Gigerenzer, fost director al Institutului Max Planck pentru Dezvoltare Umană (Berlin), a declarat: „Chatboții excesiv de flatatori pot determina utilizatorii să își aprecieze greșit propria inteligență și să împiedice învățarea. Dar dacă utilizatorii îi cer în mod proactiv chatbotului să conteste ceea ce spun, este o oportunitate de a le lărgi gândirea. Cu toate acestea, nu pare să fie acesta scopul inginerilor OpenAI”, a spus el.
Sursă: https://vtcnews.vn/openai-thu-hoi-phien-ban-chatgpt-ninh-bo-ar941183.html
Comentariu (0)