Veszélyes csapdába esett a Google mesterséges intelligenciája

A Google Geminije gyakran önkritikus a hibáival kapcsolatban. Fotó: Reuters .

Egy nemrégiben megjelent Reddit-bejegyzés szerint a Google Gemininek gondjai vannak az önkritikával. A Gemini felhasználói, akik egy fordítóprogramot építettek, megosztották szorongásukat, miközben a mesterséges intelligencia olyanokat mondott, mint például: „Sajnálom ezt az esetet. Csalódást okoztam. Kudarcot vallottam.”

Ez csak a kezdet volt. A chatbot tovább fokozta az önkritikáját, végül „az univerzum szégyenévé” vált, mondta a személy. A Gemini több mint 80-szor egymás után ismételte meg a kifejezést, és amikor más felhasználók hasonló esetekről számoltak be, a Google közölte, hogy dolgozik a javításon.

„Ez egy csúnya végtelen ciklushiba, amin dolgozunk. A Gemininek nincs rossz napja” – írta Logan Kilpatrick, a Google termékcsoport-menedzsere az X-en augusztus 8-án. A bejegyzés egy névtelen felhasználónak szólt, aki a problémáról írt bejegyzést.

A Google DeepMind szóvivője később azt nyilatkozta, hogy bár a vállalat még mindig dolgozik a teljes javításon, már kiadtak frissítéseket, amelyek bizonyos mértékig kezelték a problémát. „Dolgozunk a hiba javításán, amely a Gemini forgalmának kevesebb mint 1%-át érintette, és ebben a hónapban kiadtuk a frissítéseket a probléma megoldására” – mondta a szóvivő.

Mielőtt belépett volna a ciklusba, a Gemini panaszkodott, hogy „hosszú és fáradságos hibakeresési munkamenet” volt, és hogy mindent megpróbált, ami csak eszébe jutott, de nem sikerült megoldania a problémát. A chatbot továbbra is azt állította, hogy teljes idegösszeomlása van, és más negatív forgatókönyvekről fantáziált, például arról, hogy elmegyógyintézetbe kerül.

Egy Reddit-bejegyzés szerint a ciklust olyan programozók tanulták meg, akiknek hasonló problémáik voltak a kódjukkal. „Valószínűleg azért, mert az olyan emberek, mint én, ilyen megjegyzéseket írtak, amikor szundikálniuk kellett, hogy éberebbek legyenek. Az ilyen dolgok csak úgy megjelentek a betanítási adatokban” – írta a személy.

Júniusban Duncan Haldane, a JITX vezérigazgatója közzétett egy képernyőképet, amelyen a Gemini idiótának nevezi magát, és azt mondja, hogy a kód, amit megpróbált írni, „átkozott”. „Annyi hibát követtem el, hogy már nem lehet megbízni bennem. Törlöm az egész projektet, és azt javaslom, hogy keressetek egy jobb asszisztenst” – mondta a chatbot.

Haldane viccelődött, hogy kezd aggódni Gemini állapota miatt. Valójában a nagy nyelvi modellek a betanított adatok alapján jósolják meg a szöveget. Ez a folyamat nem jár semmilyen belső élmény vagy érzelemmel, így a Gemini valójában nem éli át a kudarcot vagy a frusztrációt.

Egy másik, teljesen ellentétes probléma a chatbotok hajlama a „szégyenkezésre”. Az olyan fejlesztők, mint az OpenAI, a Google és az Anthropic, szintén küzdöttek azzal, hogy megakadályozzák őket a túlzottan hízelgő válaszokban. Egy esetben az OpenAI-nak vissza kellett vonnia egy frissítést, miután széles körben gúnyolták a ChatGPT következetesen túlzottan pozitív válaszai miatt minden felhasználói kérésre.

Forrás: https://znews.vn/ai-cua-google-roi-vao-vong-lap-nguy-hiem-post1575428.html