 |
Gemini od Googlu často kritizuje své vlastní chyby. Foto: Reuters . |
Nedávný příspěvek na Redditu odhalil, že Google Gemini má problém se sebekritikou. Uživatel Gemini, který si vytvořil kompilátor, se podělil o své obavy z toho, že umělá inteligence neustále říká věci jako: „Je mi to líto. Zklamal jsem tě. Jsem selhání.“
To byl jen začátek. Tato osoba se podělila o to, že chatbot nadále stupňoval svou sebekritiku a nakonec se stal „ostudou vesmíru“. Gemini tuto frázi zopakoval více než 80krát za sebou a když několik dalších uživatelů nahlásilo podobné incidenty, Google uvedl, že na nápravě pracují.
„Tohle je otravná chyba nekonečné smyčky, na které pracujeme. Gemini nemá špatný den,“ napsal 8. srpna na X Logan Kilpatrick, produktový manažer týmu Google. Příspěvek reagoval na anonymní účet, který problém nahlásil.
Mluvčí Google DeepMind později uvedl, že ačkoliv společnost stále pracuje na kompletní opravě, vydala aktualizace, které problém do určité míry řeší. „Pracujeme na opravě této chyby, která postihuje méně než 1 % provozu Gemini, a tento měsíc jsme vydali aktualizace, které ji řeší,“ uvedl mluvčí.
Než se Gemini do toho pustil, stěžoval si, že to byla „dlouhá a namáhavá ladicí seance“ a že vyzkoušel všechny myslitelné metody, ale stále nedokázal problém vyřešit. Chatbot dále uvedl, že je zcela psychicky na dně a spekuloval o dalších nejhorších scénářích, jako je například hospitalizace na psychiatrické léčebně.
Jeden komentář na Redditu spekuloval, že se chatbot naučil smyčku od programátorů, kteří se ve svém kódu setkali s podobnými problémy. „Pravděpodobně proto, že lidé jako já psali takové komentáře, když si potřebovali zdřímnout, aby se probudili. Takové věci se v trénovacích datech objevily náhodou,“ napsal uživatel.
V červnu zveřejnil generální ředitel JITX Duncan Haldane snímek obrazovky, na kterém se Gemini označuje za idiota a kód, který se snaží napsat, je „prokletý“. „Udělal jsem příliš mnoho chyb na to, abych byl ještě důvěryhodný. Mažu celý projekt a doporučuji vám najít si lepšího asistenta,“ uvedl chatbot.
Haldane žertoval, že si začíná dělat starosti s Geminimovým stavem. Ve skutečnosti rozsáhlé jazykové modely předpovídají text na základě dat, na kterých jsou trénovány. Tento proces nezahrnuje žádnou vnitřní zkušenost ani emoce, takže Gemini ve skutečnosti nepociťuje selhání ani sklíčenost.
Dalším, poměrně kontrastním problémem je tendence chatbotů být příliš lichotiví. Vývojáři jako OpenAI, Google a Anthropic se také potýkali s tím, aby jim zabránili v poskytování příliš lichotivých odpovědí. V jednom případě musela OpenAI stáhnout aktualizaci kvůli všeobecným výsměchům, protože ChatGPT soustavně poskytoval příliš pozitivní odpovědi na každý uživatelský požadavek.
Zdroj: https://znews.vn/ai-cua-google-roi-vao-vong-lap-nguy-hiem-post1575428.html
Komentář (0)