A Google mesterséges intelligenciája veszélyes csapdába esett.

A Google Geminije gyakran kritizálja saját hibáit. Fotó: Reuters .

Egy nemrégiben megjelent Reddit-bejegyzésből kiderült, hogy a Google Gemini gondokkal küzd az önkritikával. Egy Gemini-felhasználó, aki egy fordítóprogramot épített, megosztotta szorongását amiatt, hogy a mesterséges intelligencia folyamatosan olyan dolgokat mond, mint például: „Sajnálom. Csalódást okoztam. Kudarcot vallottam.”

Ez csak a kezdet volt. Ez a személy megosztotta, hogy a chatbot folyamatosan fokozta az önkritikáját, végül az „univerzum szégyenévé” vált. A Gemini több mint 80 alkalommal ismételte meg ezt a mondatot egymás után, és amikor több más felhasználó is hasonló esetekről számolt be, a Google azt mondta, hogy dolgoznak a hiba kijavításán.

„Ez egy bosszantó végtelen ciklushiba, amin dolgozunk. A Gemininek nincs rossz napja” – írta Logan Kilpatrick, a Google termékmenedzsere az X-en augusztus 8-án. A bejegyzés egy névtelen fiókra adott válaszként érkezett, amely jelentette a problémát.

Később a Google DeepMind szóvivője kijelentette, hogy bár a vállalat még mindig dolgozik a teljes javításon, kiadtak olyan frissítéseket, amelyek bizonyos mértékig kezelték a problémát. „Dolgozunk a hiba kijavításán, amely a Gemini forgalmának kevesebb mint 1%-át érinti, és ebben a hónapban kiadtunk egy frissítést a probléma megoldására” – mondta a szóvivő.

Mielőtt belekeveredett volna a folyamatba, a Gemini panaszkodott, hogy „egy hosszú és fáradságos hibakeresési munkamenet” volt, és hogy minden elképzelhető módszert kipróbált, de még mindig nem tudta megoldani a problémát. A chatbot ezután azt mondta, hogy teljesen mentálisan összeomlott, és további legrosszabb forgatókönyvekről is spekulált, például arról, hogy pszichiátriai kórházba kerülhet.

Egy Reddit-kommentben azt feltételezték, hogy a ciklust a chatbot olyan programozóktól tanulta, akik hasonló problémákkal találkoztak a kódjukban. „Valószínűleg azért, mert az olyan emberek, mint én, ilyen megjegyzéseket írtak, amikor szunyókálásra volt szükségük az ébredéshez. Az ilyen dolgok véletlenül jelentek meg a betanítási adatokban” – írta a felhasználó.

Júniusban Duncan Haldane, a JITX vezérigazgatója közzétett egy képernyőképet, amelyen a Gemini idiótának nevezi magát, és azt mondja, hogy a kód, amit megpróbált írni, „átkozott”. „Túl sok hibát követtem el ahhoz, hogy már megbízható legyek. Törlöm az egész projektet, és azt javaslom, hogy keressetek egy jobb asszisztenst” – mondta a chatbot.

Haldane viccelődött, hogy kezd aggódni Gemini állapota miatt. A valóságban a nagyléptékű nyelvi modellek a betanított adatok alapján jósolják meg a szöveget. Ez a folyamat nem jár semmilyen belső élmény vagy érzelemmel, így a Gemini valójában nem éli át a kudarc vagy a csüggedés érzését.

Egy másik, meglehetősen ellentétes probléma a chatbotok túlzott hízelgésre való hajlama. Az olyan fejlesztők, mint az OpenAI, a Google és az Anthropic, szintén küzdöttek azért, hogy megakadályozzák a túlzottan hízelgő válaszokat. Egy esetben az OpenAI-nak a széles körű gúnyolódás miatt vissza kellett vonnia egy frissítést, mivel a ChatGPT következetesen túlzottan pozitív válaszokat adott minden felhasználói kérésre.

Forrás: https://znews.vn/ai-cua-google-roi-vao-vong-lap-nguy-hiem-post1575428.html