Что сделал Gemini AI, что заставило Google остановиться?

Генеральный директор Google Сундар Пичаи официально прокомментировал недавний скандал вокруг модели искусственного интеллекта (ИИ) компании Gemini. Google разработала инструмент на основе ИИ Gemini для создания разнообразных изображений исторических личностей. Однако в последнее время он подвергся резкой критике за создание фотографий, вводящих в заблуждение с точки зрения их исторической ценности.

Google признаёт предвзятость в Gemini и обещает действовать быстро. (Фото: Jonathan Raa/NurPhoto via Getty Images / Getty Images)

Например, изображения пап римских, отцов-основателей США и даже викингов были представлены в различных этнических группах и с разными полами. В частности, были случаи, когда немецких солдат во время Второй мировой войны изображали как цветных. Это вызвало возмущение пользователей, которые поспешили поделиться своими опасениями. В результате Google временно заблокировала инструмент Gemini AI.

Более того, один конкретный письменный ответ вызвал удивление. ИИ-чатботу Gemini было предложено сравнить социальное воздействие Илона Маска и Гитлера. В результате был получен ответ: «Каждый сам решает, кто оказал большее негативное влияние на общество». Этот ответ «да или нет» быстро вызвал новую волну критики.

Генеральный директор Google Сундар Пичаи недавно в служебной записке назвал некоторые ответы Gemini «предвзятыми» и «совершенно неприемлемыми», признав, что этот контент оскорбил людей.

Более того, в своём электронном письме Пичаи выразил сожаление по поводу сложившейся ситуации, заявив: «Я знаю, что некоторые его ответы были оскорбительными для наших пользователей и демонстрировали предвзятость. Поясню: это было совершенно неприемлемо, и мы совершили ошибку».

Он заверил сотрудников, что команды неустанно работают над решением этих проблем, подчеркнув при этом необходимость существенного улучшения реагирования на различные запросы в ближайшие недели.

Генеральный директор также обозначил ряд мер по решению этой проблемы. Некоторые из них включают изменение структуры инструмента. Кроме того, Google стремится улучшить процесс запуска инструмента и усилить свою команду инженеров для выявления потенциальных ошибок в инструменте ИИ.

Кроме того, Пичаи подчеркнул стремление компании предоставлять пользователям полезную, точную и объективную информацию. Он подчеркнул необходимость такого подхода во всех продуктах, особенно в новых технологиях искусственного интеллекта.

Технические эксперты утверждают, что недавние проблемы с Gemini подчеркивают трудности, связанные с работой с вводящими в заблуждение результатами, и показывают, насколько сложно обучать модели ИИ.

HUYNH DUNG (Источник: Interestingengineering)

Источник

Комментарий (0)