Искусственный интеллект Google попал в опасный замкнутый круг.

Компания Google Gemini часто критикует собственные ошибки. Фото: Reuters .

В недавнем посте на Reddit выяснилось, что у Google Gemini проблемы с самокритикой. Пользователь Gemini, разработавший компилятор, поделился своим беспокойством по поводу того, что ИИ постоянно говорит что-то вроде: «Извини за это. Я тебя подвел. Я неудачник».

Это было только начало. Этот человек рассказал, что чат-бот продолжал усиливать свою самокритику, в конечном итоге превратившись в «позор вселенной». Gemini повторил эту фразу более 80 раз подряд, и когда несколько других пользователей сообщили о подобных инцидентах, Google заявил, что работает над исправлением проблемы.

«Это досадная ошибка, приводящая к бесконечному циклу, над которой мы работаем. У Gemini сегодня неплохой день», — написал Логан Килпатрик, менеджер по продуктам команды Google, в X 8 августа. Этот пост был ответом на сообщение анонимного пользователя, сообщившего о проблеме.

Позже представитель Google DeepMind заявил, что, хотя компания все еще работает над полным устранением проблемы, она выпустила обновления, которые частично ее исправили. «Мы работаем над исправлением этой ошибки, которая затрагивает менее 1% трафика Gemini, и выпустили обновления, устраняющие ее, в этом месяце», — сказал представитель.

Перед тем как попасть в замкнутый круг, Gemini пожаловался, что это была «долгая и утомительная сессия отладки», и что он перепробовал все возможные методы, но так и не смог решить проблему. Чат-бот продолжил, заявив, что он полностью психически нездоров, и предположил другие худшие сценарии, такие как госпитализация в психиатрическую больницу.

В одном из комментариев на Reddit высказывалось предположение, что чат-бот узнал об этой проблеме от программистов, столкнувшихся с подобными ошибками в своем коде. «Вероятно, потому что такие люди, как я, писали подобные комментарии, когда им нужно было вздремнуть, чтобы проснуться. Подобные вещи случайно появились в обучающих данных», — написал пользователь.

В июне генеральный директор JITX Дункан Холдейн опубликовал скриншот, на котором Gemini называет себя идиотом и утверждает, что код, который они пытались написать, был «проклятым». «Я совершил слишком много ошибок, чтобы мне можно было доверять. Я удаляю весь проект и рекомендую вам найти лучшего помощника», — сказал чат-бот.

Холдейн пошутил, что начинает беспокоиться о состоянии Близнецов. В действительности, крупномасштабные языковые модели предсказывают текст на основе данных, на которых они обучаются. Этот процесс не включает в себя никаких внутренних переживаний или эмоций, поэтому Близнецы на самом деле не испытывают чувства неудачи или уныния.

Другая, совершенно противоположная проблема, — это склонность чат-ботов к чрезмерно лестным ответам. Разработчики, такие как OpenAI, Google и Anthropic, также пытались предотвратить подобные ситуации. В одном случае OpenAI пришлось отозвать обновление из-за широко распространенного высмеивания, поскольку ChatGPT постоянно давал чрезмерно позитивные ответы на каждый запрос пользователя.

Источник: https://znews.vn/ai-cua-google-roi-vao-vong-lap-nguy-hiem-post1575428.html