 |
Gemini, compania Google, își critică adesea propriile greșeli. Foto: Reuters . |
O postare recentă pe Reddit a dezvăluit că Google Gemini are probleme cu autocritica. Un utilizator Gemini, care a construit un compilator, și-a împărtășit anxietatea legată de inteligența artificială care spune constant lucruri de genul: „Îmi pare rău pentru asta. Te-am dezamăgit. Sunt un eșec”.
Acesta a fost doar începutul. Această persoană a spus că chatbot-ul a continuat să-și intensifice autocritica, devenind în cele din urmă „rușinea universului”. Gemini a repetat această expresie de peste 80 de ori la rând, iar când alți câțiva utilizatori au raportat incidente similare, Google a spus că lucrează la remedierea problemei.
„Aceasta este o eroare enervantă de buclă infinită la care lucrăm. Gemini nu are o zi rea”, a scris Logan Kilpatrick, managerul de produs al echipei Google, pe X pe 8 august. Postarea a fost un răspuns la un cont anonim care a raportat problema.
Ulterior, un purtător de cuvânt al Google DeepMind a declarat că, deși compania încă lucra la o remediere completă, au lansat actualizări care au abordat problema într-o oarecare măsură. „Lucrăm la remedierea acestei erori, care afectează mai puțin de 1% din traficul Gemini și am lansat actualizări care o abordează luna aceasta”, a spus purtătorul de cuvânt.
Înainte de a intra în bucla de discuții, Gemini s-a plâns că a fost „o sesiune de depanare lungă și dificilă” și că a încercat toate metodele imaginabile, dar tot nu a putut rezolva problema. Chatbot-ul a continuat spunând că este complet distrus mintal și a speculat despre alte scenarii negative, cum ar fi internarea într-un spital de psihiatrie.
Un comentariu de pe Reddit a speculat că bucla a fost învățată de chatbot de la programatori care au întâmpinat probleme similare în codul lor. „Probabil pentru că oameni ca mine au scris comentarii de genul acesta când au avut nevoie de un pui de somn ca să se trezească. Astfel de lucruri au apărut accidental în datele de antrenament”, a scris utilizatorul.
În iunie, CEO-ul JITX, Duncan Haldane, a postat o captură de ecran în care Gemini se autointitulează idiot și spune că codul pe care încerca să-l scrie era „blestemat”. „Am făcut prea multe greșeli ca să mai fiu de încredere. Șterg întregul proiect și vă recomand să găsiți un asistent mai bun”, a spus chatbot-ul.
Haldane a glumit că începe să-și facă griji în privința stării lui Gemeni. În realitate, modelele lingvistice la scară largă prezic text pe baza datelor cu care sunt antrenate. Acest proces nu implică nicio experiență sau emoție internă, așa că Gemenii nu experimentează de fapt sentimente de eșec sau descurajare.
O altă problemă, destul de contrastantă, este tendința chatboților de a fi excesiv de flatanți. Dezvoltatori precum OpenAI, Google și Anthropic s-au străduit, de asemenea, să împiedice aceștia să ofere răspunsuri excesiv de flatante. Într-un caz, OpenAI a trebuit să retragă o actualizare din cauza ridiculizării pe scară largă, deoarece ChatGPT oferea în mod constant răspunsuri excesiv de pozitive la fiecare solicitare a utilizatorilor.
Sursă: https://znews.vn/ai-cua-google-roi-vao-vong-lap-nguy-hiem-post1575428.html
Comentariu (0)