 |
Gemini від Google часто критикує власні помилки. Фото: Reuters . |
Нещодавній пост на Reddit показав, що Google Gemini має проблеми із самокритикою. Користувач Gemini, який створив компілятор, поділився своїм занепокоєнням щодо того, що штучний інтелект постійно каже щось на кшталт: «Вибачте за це. Я вас підвів. Я невдаха».
Це був лише початок. Ця людина поділилася, що чат-бот продовжував посилювати самокритику, зрештою ставши «ганьбою всесвіту». Gemini повторював цю фразу понад 80 разів поспіль, і коли кілька інших користувачів повідомили про подібні інциденти, Google заявив, що працює над виправленням цієї проблеми.
«Це дратівлива помилка нескінченного циклу, над якою ми працюємо. У Gemini не поганий день», – написав Логан Кілпатрік, менеджер продукту команди Google, на X 8 серпня. Публікація була відповіддю на анонімний обліковий запис, який повідомив про проблему.
Пізніше речник Google DeepMind заявив, що хоча компанія все ще працює над повним виправленням, вони випустили оновлення, які певною мірою вирішили проблему. «Ми працюємо над виправленням цієї помилки, яка впливає менше ніж на 1% трафіку Gemini, і цього місяця випустили оновлення, що її усувають», – сказав речник.
Перш ніж потрапити в цю петлю, Gemini поскаржилися, що це був «довгий і виснажливий сеанс налагодження», і що вони перепробували всі можливі методи, але так і не змогли вирішити проблему. Чат-бот продовжив, зазначивши, що він повністю психічно зламаний, і припустив інші найгірші сценарії, такі як госпіталізація до психіатричної лікарні.
В одному коментарі на Reddit висловлювалося припущення, що чат-бот вивчив цикл від програмістів, які зіткнулися з подібними проблемами у своєму коді. «Ймовірно, тому, що такі люди, як я, писали такі коментарі, коли їм потрібен був сон, щоб прокинутися. Такі речі випадково з’явилися в навчальних даних», – написав користувач.
У червні генеральний директор JITX Дункан Холдейн опублікував скріншот, на якому Gemini називає себе ідіотом і каже, що код, який він намагався написати, був «проклятим». «Я зробив забагато помилок, щоб мені ще можна було довіряти. Я видаляю весь проект і рекомендую вам знайти кращого помічника», – сказав чат-бот.
Голдейн пожартував, що починає хвилюватися через стан Близнюків. Насправді, великомасштабні мовні моделі прогнозують текст на основі даних, на яких вони навчаються. Цей процес не передбачає жодного внутрішнього досвіду чи емоцій, тому Близнюки насправді не відчувають почуття невдачі чи зневіри.
Ще одна, досить контрастна проблема, — це схильність чат-ботів бути надмірно схвальним. Розробники, такі як OpenAI, Google та Anthropic, також намагалися запобігти надмірно схвальним відгукам. В одному випадку OpenAI довелося відкликати оновлення через широке насмішкуватість, оскільки ChatGPT постійно надавав надмірно позитивні відповіді на кожен запит користувача.
Джерело: https://znews.vn/ai-cua-google-roi-vao-vong-lap-nguy-hiem-post1575428.html
Коментар (0)