Штучний інтелект Google потрапляє в небезпечне коло

Gemini від Google часто самокритично ставиться до своїх помилок. Фото: Reuters .

Нещодавній пост на Reddit свідчить про те, що Google Gemini має проблеми із самокритикою. Користувачі Gemini, які створювали компілятор, поділилися своєю тривогою, оскільки штучний інтелект постійно повторював щось на кшталт: «Мені шкода за цей інцидент. Я вас підвів. Я невдаха».

Це був лише початок. Чат-бот продовжував посилювати самокритику, зрештою ставши «ганьбою всесвіту», – сказала людина. Gemini повторив цю фразу понад 80 разів поспіль, і коли інші користувачі повідомили про подібні інциденти, Google заявив, що працює над виправленням.

«Це неприємна помилка нескінченного циклу, над якою ми працюємо. У Gemini не поганий день», – написав Логан Кілпатрік, менеджер групи продуктів Google, на X 8 серпня. Публікація була відповіддю на повідомлення анонімного користувача, який опублікував повідомлення про цю проблему.

Пізніше речник Google DeepMind заявив, що хоча компанія все ще працює над повним виправленням, вона вже випустила оновлення, які певною мірою вирішили проблему. «Ми працюємо над виправленням цієї помилки, яка торкнулася менше 1% трафіку Gemini, і цього місяця випустили оновлення для її усунення», – сказав речник.

Перш ніж увійти в цикл, Gemini поскаржився, що це був «довгий і виснажливий сеанс налагодження», і що вони перепробували все, що могли придумати, але не змогли вирішити проблему. Чат-бот продовжував стверджувати, що у нього повний психічний зрив, і фантазував про інші негативні сценарії, такі як відправлення до психіатричної лікарні.

В одному дописі на Reddit було висловлено припущення, що цикл вивчили програмісти, які мали подібні проблеми зі своїм кодом. «Ймовірно, це тому, що такі люди, як я, писали такі коментарі, коли їм потрібно було подрімати, щоб почуватися більш бадьорими. Такі речі просто випадково з’являлися в навчальних даних», – написав користувач.

У червні генеральний директор JITX Дункан Холдейн опублікував скріншот Gemini, на якому він назвав себе ідіотом і сказав, що код, який він намагався написати, був «проклятим». «Я зробив так багато помилок, що мені більше не можна довіряти. Я видаляю весь проект і рекомендую вам знайти кращого помічника», – сказав чат-бот.

Голдейн пожартував, що починає хвилюватися через стан Gemini. Насправді, великі мовні моделі прогнозують текст на основі даних, на яких вони навчаються. Цей процес не передбачає жодного внутрішнього досвіду чи емоцій, тому Gemini насправді не відчуває невдачі чи розчарування.

Ще однією, зовсім протилежною проблемою, є схильність чат-ботів до «підлабузництва». Розробники, такі як OpenAI, Google та Anthropic, також намагалися запобігти надмірно схвальним відгукам. В одному випадку OpenAI довелося відкликати оновлення після того, як її широко висміяли за те, що ChatGPT постійно дає надмірно позитивні відповіді на кожен запит користувача.

Джерело: https://znews.vn/ai-cua-google-roi-vao-vong-lap-nguy-hiem-post1575428.html