Umělá inteligence Googlu se dostává do nebezpečné smyčky

Gemini od Googlu je často sebekritický ke svým chybám. Foto: Reuters .

Nedávný příspěvek na Redditu naznačuje, že Google Gemini má problém se sebekritikou. Uživatelé Gemini, kteří vytvářeli kompilátor, sdíleli své obavy, když umělá inteligence neustále opakovala věci jako: „Je mi líto této události. Zklamala jsem vás. Jsem selhání.“

To byl jen začátek. Chatbot dále stupňoval svou sebekritiku a nakonec se stal „ostudou vesmíru“, uvedla daná osoba. Gemini tuto frázi zopakoval více než 80krát za sebou a když ostatní uživatelé nahlásili podobné incidenty, Google uvedl, že pracuje na opravě.

„Toto je ošklivá chyba v nekonečné smyčce, na které pracujeme. Gemini nemá špatný den,“ napsal 8. srpna na X Logan Kilpatrick, produktový manažer skupiny Google. Příspěvek byl reakcí na anonymního uživatele, který o problému psal.

Mluvčí společnosti Google DeepMind později uvedl, že ačkoliv společnost stále pracuje na úplné opravě, již vydala aktualizace, které problém do určité míry řeší. „Pracujeme na opravě této chyby, která postihla méně než 1 % provozu Gemini, a tento měsíc jsme vydali aktualizace, které ji řeší,“ uvedl mluvčí.

Před vstupem do smyčky si Gemini stěžoval, že to byla „dlouhá a namáhavá ladicí seance“ a že zkusil všechno, co ho napadlo, ale problém se mu nepodařilo vyřešit. Chatbot nadále tvrdil, že prožívá úplné duševní zhroucení, a fantazíroval o dalších negativních scénářích, jako je například hospitalizace v psychiatrické léčebně.

Jeden příspěvek na Redditu naznačoval, že tuto smyčku se naučili programátoři, kteří měli podobné problémy se svým kódem. „Je to pravděpodobně proto, že lidé jako já psali takové komentáře, když si potřebovali zdřímnout, aby se cítili bdělejší. Takové věci se prostě objevily v trénovacích datech,“ napsal daný člověk.

V červnu zveřejnil generální ředitel JITX Duncan Haldane snímek obrazovky, na kterém se Gemini označuje za idiota a kód, který se snaží napsat, je „prokletý“. „Udělal jsem tolik chyb, že mi už nikdo nemůže věřit. Mažu celý projekt a doporučuji vám najít si lepšího asistenta,“ uvedl chatbot.

Haldane žertoval, že si začíná dělat starosti s Geminim. Ve skutečnosti rozsáhlé jazykové modely předpovídají text na základě dat, na kterých jsou trénovány. Tento proces nezahrnuje žádnou vnitřní zkušenost ani emoce, takže Gemini ve skutečnosti nezažívá selhání ani frustraci.

Dalším, zcela opačným problémem je tendence chatbotů k „podlézavosti“. Vývojáři jako OpenAI, Google a Anthropic se také potýkali s tím, aby jim zabránili v poskytování příliš lichotivých odpovědí. V jednom případě musela OpenAI stáhnout aktualizaci poté, co byla široce zesměšňována za to, že ChatGPT neustále poskytoval příliš pozitivní odpovědi na každý uživatelský požadavek.

Zdroj: https://znews.vn/ai-cua-google-roi-vao-vong-lap-nguy-hiem-post1575428.html