Google временно приостанавливает работу функции создания изображений с помощью ИИ в Gemini.

Gemini, новое название чат-бота Bard, генерирует изображения на основе описаний пользователей аналогично ChatGPT от OpenAI. Как и другие модели, Gemini обучен избегать ответов на опасные или враждебные команды и учитывает разнообразие в своих результатах.

Однако некоторые пользователи раскритиковали это разнообразие, заявив, что оно заходит слишком далеко и создает неточные изображения людей и исторических личностей. Например, Gemini изображает первого президента США, Джорджа Вашингтона, как человека небелой расы.

В качестве других примеров можно привести изображение женщины из Юго-Восточной Азии, одетой в папское облачение, созданное с помощью искусственного интеллекта, тогда как в действительности все 266 пап в истории были белыми мужчинами.

Google tạm dừng tính năng tạo hình ảnh AI của Gemini ảnh 1

Google временно приостанавливает работу функции создания изображений с помощью ИИ в Gemini.

Компания Gemini даже создала «разнообразные» изображения немецких солдат времен нацистской эпохи, включая азиатскую женщину и чернокожего мужчину в военной форме в 1943 году.

Поскольку Google не опубликовала параметры, регулирующие поведение чат-бота Gemini, сложно получить четкое объяснение того, почему это программное обеспечение выдумывает так много разных версий исторических личностей и событий.

Проблема Gemini возникла через несколько дней после того, как компания OpenAI, управляющая популярным ChatGPT, представила новый инструмент искусственного интеллекта под названием Sora, который может создавать видеоролики на основе текстовых описаний пользователей.

Ранее Google признавала, что непредсказуемое поведение чат-бота нуждается в исправлении. Возможно, Gemini отдала приоритет принудительному разнообразию при генерации изображений, что привело к исторически неточным описаниям.

В феврале Google запустила функцию генерации изображений с использованием своей модели искусственного интеллекта Gemini (ранее Bard), стремясь конкурировать с OpenAI и Copilot от Microsoft. Как и конкуренты, этот инструмент создает набор изображений на основе описательного текста, предоставленного пользователем.

Источник