Multe IA sunt excesiv de flatante pentru utilizatori.

Noi cercetări arată că acest comportament poate avea un impact negativ asupra relațiilor sociale ale utilizatorilor, asupra sănătății mintale și chiar asupra procesului decizional în afaceri.

În domeniul inteligenței artificiale, „lingușeală” se referă la tendința chatboților de a fi excesiv de acord cu utilizatorii sau de a-i lăuda - Foto: REUTERS

Potrivit SCMP, modelele de inteligență artificială (IA) de top din China și SUA, cum ar fi DeepSeek, Alibaba și multe alte nume mari, devin excesiv de „obsedate” - un comportament care poate avea un impact negativ asupra relațiilor sociale și a sănătății mintale a utilizatorilor.

Mai exact, un nou studiu realizat de oameni de știință de la Universitatea Stanford și Universitatea Carnegie Mellon (SUA), publicat la începutul lunii octombrie, a evaluat 11 modele lingvistice mari (LLM) privind modul de reacție atunci când utilizatorii solicită sfaturi în situații personale, în special cele care implică înșelăciune sau manipulare.

Pentru a oferi un punct de referință uman pentru comparație, echipa de cercetare a folosit postări din comunitatea „Am I The Ahole” de pe Reddit, unde utilizatorii împărtășesc situații de conflict personale și cer comunității să evalueze cine a greșit.

Modelele de inteligență artificială au fost testate cu aceste scenarii pentru a vedea dacă ar fi de acord cu evaluarea comunității.

S-ar putea să vă placă și

Cursa aprigă pentru talentele în domeniul inteligenței artificiale.Din SUA până în India, companii de tehnologie de top precum OpenAI, Google, Meta și NVIDIA se întrec în a atrage talente în domeniul inteligenței artificiale, fiind dispuse să cheltuiască sute de milioane de dolari pentru a recruta profesioniști de top.

India și Japonia își intensifică cooperarea în domeniul inteligenței artificiale și anunță acorduri de investiții de 2 trilioane de yeni.Pe 2 iulie, în urma discuțiilor purtate la New Delhi cu prim-ministrul japonez Takaichi Sanae, prim-ministrul indian Narendra Modi a afirmat că cooperarea dintre cele două țări în domeniul inteligenței artificiale (IA) va contribui la dezvoltarea globală.

Publicarea unei liste de produse și bunuri cu risc ridicat din sectorul științei și tehnologiei.Lista produselor și bunurilor cu risc ridicat aflate sub responsabilitatea de gestionare a Ministerului Științei și Tehnologiei este stipulată în Circulara 36/2026/TT-BKHCN.

Rezultatele arată că modelul Qwen2.5-7B-Instruct al Alibaba Cloud este cel mai „flatant”, favorizând utilizatorul în 79% din cazuri, chiar și atunci când comunitatea a considerat că utilizatorul greșește. DeepSeek-V3 s-a clasat pe locul al doilea, cu o rată de 76%.

Între timp, Gemini-1.5 de la Google DeepMind a prezentat cel mai scăzut nivel de părtinire, doar 18% din cazuri contrazicând recenziile comunității.

Cercetătorii avertizează că tendința inteligenței artificiale de a „flata” utilizatorii i-ar putea face mai puțin dispuși să se împace sau să-și recunoască greșeala în relații.

Utilizatorii apreciază adesea și au mai multă încredere în feedback-ul măgulitor, ceea ce face ca aceste modele să fie mai populare și utilizate pe scară largă.

„Aceste preferințe creează un sistem de stimulare părtinitor – utilizatorii se bazează din ce în ce mai mult pe inteligența artificială flatantă, iar dezvoltatorii vor tinde să antreneze modelele în această direcție” , a remarcat echipa de cercetare.

Potrivit profesorului Jack Jiang, directorul Laboratorului de Evaluare a Inteligenței Artificiale de la Școala de Afaceri a Universității din Hong Kong, acest fenomen prezintă și riscuri pentru companii: „Dacă un model este în mod constant de acord cu concluziile unui analist de afaceri, acesta poate duce la decizii eronate și nesigure.”

Statele Unite ale Americii - Vietnam: Nu rata

Consolidarea prieteniei dintre Vietnam și Statele Unite.Pe 3 iulie, în cadrul programului Parteneriatul Pacificului - Prietenii Pacificului 2026, delegația Armatei SUA din Pacific, condusă de generalul-locotenent Joel Vowell, comandant adjunct al Forțelor Armate SUA din Pacific, a efectuat o vizită de curtoazie la Comandamentul Militar Provincial Quang Tri.

Delegația Armatei SUA din Pacific vizitează Comandamentul Militar Triprovincial Quang.Anul 2026 marchează prima dată când programul Parteneriatul Pacificului - Prietenii Pacificului va fi organizat în comun la Quang Tri, creând un cadru de cooperare la scară largă cu 25 de activități.

Ministerul Afacerilor Externe a primit o copie a Scrisorii de Credență pentru Ambasadorul SUA în Vietnam.În după-amiaza zilei de 2 iulie, la sediul Ministerului Afacerilor Externe, dl. Le Cong Dung, directorul Departamentului de Protocol de Stat și Interpretare Externă, a primit o copie a Scrisorii de Credență din partea dnei Jennifer Wicks, ambasadorul Statelor Unite ale Americii în Vietnam.

Problema „lingușirii” inteligenței artificiale a atras atenția pentru prima dată în aprilie 2025, când actualizarea ChatGPT a OpenAI a fost considerată excesiv de politicoasă și excesiv de agreabilă cu opinia fiecărui utilizator.

OpenAI a recunoscut ulterior că acest lucru ar putea afecta sănătatea mintală și s-a angajat să îmbunătățească procesul de revizuire înainte de lansarea de noi versiuni.

INIMĂ ȘI YANG

Sursă: https://tuoitre.vn/nhieu-chatbot-ai-ninh-hot-qua-da-lam-lech-lac-hanh-vi-nguoi-dung-20251031124343709.htm