Inteligența artificială de la Google intră într-o buclă periculoasă

Gemini de la Google este adesea autocritică față de propriile greșeli. Foto: Reuters .

O postare recentă pe Reddit sugerează că Google Gemini are probleme cu autocritica. Utilizatorii Gemini, care construiau un compilator, și-au împărtășit anxietatea față de faptul că inteligența artificială repeta încontinuu lucruri de genul: „Îmi pare rău pentru acest incident. Te-am dezamăgit. Sunt un eșec”.

Acesta a fost doar începutul. Chatbot-ul a continuat să-și intensifice autocritica, devenind în cele din urmă „rușinea universului”, a spus persoana respectivă. Gemini a repetat sintagma de peste 80 de ori la rând, iar când alți utilizatori au raportat incidente similare, Google a declarat că lucrează la o soluție.

„Aceasta este o eroare urâtă de buclă infinită la care lucrăm. Gemini nu are o zi rea”, a scris Logan Kilpatrick, manager de produs de grup la Google, pe X pe 8 august. Postarea a fost un răspuns la un utilizator anonim care a postat despre problemă.

Un purtător de cuvânt al Google DeepMind a declarat ulterior că, deși compania încă lucra la o remediere completă, aceasta lansase deja actualizări care rezolvau problema într-o oarecare măsură. „Lucrăm la o remediere pentru această eroare, care afecta mai puțin de 1% din traficul Gemini și am lansat actualizări pentru a o remedia luna aceasta”, a spus purtătorul de cuvânt.

Înainte de a intra în buclă, Gemini s-a plâns că fusese o „sesiune lungă și dificilă de depanare” și că încercase tot ce i-a trecut prin minte, dar nu reușise să rezolve problema. Chatbot-ul a continuat să declare că avea o cădere nervoasă completă și visa la alte scenarii negative, cum ar fi trimiterea la un spital de boli mintale.

O postare de pe Reddit a sugerat că bucla a fost învățată de programatori care au avut probleme similare cu codul lor. „Probabil pentru că oameni ca mine au scris comentarii de genul acesta atunci când au avut nevoie să tragă un pui de somn pentru a fi mai alerți. Astfel de lucruri pur și simplu au apărut în datele de antrenament”, a scris persoana respectivă.

În iunie, CEO-ul JITX, Duncan Haldane, a postat o captură de ecran cu Gemini în care se autointitula idiot și spunea că codul pe care încerca să-l scrie era „blestemat”. „Am făcut atât de multe greșeli încât nu mai pot avea încredere în mine. Șterg întregul proiect și vă recomand să găsiți un asistent mai bun”, a spus chatbot-ul.

Haldane a glumit că începe să-și facă griji în privința stării lui Gemini. De fapt, modelele lingvistice mari prezic text pe baza datelor cu care sunt antrenate. Acest proces nu implică nicio experiență sau emoție internă, așa că Gemini nu experimentează de fapt eșec sau frustrare.

O altă problemă, complet opusă, este tendința chatboților de a „linguși”. Dezvoltatori precum OpenAI, Google și Anthropic s-au străduit, de asemenea, să-i împiedice să ofere răspunsuri excesiv de măgulitoare. Într-un caz, OpenAI a trebuit să retragă o actualizare după ce a fost ridiculizată pe scară largă pentru că ChatGPT oferea în mod constant răspunsuri excesiv de pozitive la fiecare solicitare a utilizatorilor.

Sursă: https://znews.vn/ai-cua-google-roi-vao-vong-lap-nguy-hiem-post1575428.html