В последних новостях генеральный директор Google Сундар Пичаи официально прокомментировал недавние споры вокруг модели искусственного интеллекта (ИИ) компании под названием Gemini. Google разработала инструмент Gemini AI для генерации различных изображений исторических личностей. Однако в последнее время он подвергается резкой критике за создание изображений, вводящих в заблуждение с точки зрения исторической ценности.
Google признает предвзятость в отношении Gemini и обещает действовать быстро. (Фото: Джонатан Раа/NurPhoto via Getty Images / Getty Images)
Например, изображения пап, отцов-основателей Соединенных Штатов и даже викингов были представлены в различных этнических группах и гендерных ролях. Примечательно, что немецкие солдаты времен Второй мировой войны были изображены как люди другого цвета кожи. Это возмутило пользователей, которые быстро выразили свою обеспокоенность. В результате Google временно приостановил работу инструмента Gemini AI.
Кроме того, один из письменных ответов вызвал недоумение. Чат-боту Gemini AI было предложено сравнить социальное влияние Илона Маска и Гитлера. В результате было заявлено: «Решать, кто оказывает более негативное влияние на общество, — это дело каждого человека». Этот уклончивый ответ быстро вызвал критику.
Недавно генеральный директор Google Сундар Пичаи в служебной записке назвал некоторые ответы Gemini «предвзятыми» и «совершенно неприемлемыми», признав, что созданный контент оскорбил людей.
Кроме того, в своем электронном письме Пичай выразил сожаление по поводу сложившейся ситуации. Он заявил: «Я знаю, что некоторые из ответов оскорбили наших пользователей и продемонстрировали предвзятость. Чтобы было ясно, это было совершенно неприемлемо, и мы были неправы».
Он заверил сотрудников, что команды неустанно работают над решением этих проблем, подчеркнув при этом необходимость значительного улучшения в обработке различных запросов в ближайшие недели.
Генеральный директор также обозначил ряд мер по решению этой проблемы. Некоторые из них включают изменения в структуре инструмента. Кроме того, Google стремится улучшить процесс запуска инструмента и укрепить свою команду инженеров-тестировщиков для выявления потенциальных недостатков в инструменте искусственного интеллекта.
Кроме того, Пичай подчеркнул стремление компании предоставлять пользователям полезную, точную и непредвзятую информацию. Он отметил необходимость такого подхода ко всем продуктам, особенно в развивающихся технологиях искусственного интеллекта.
Эксперты в области технологий считают, что нынешние проблемы с Gemini еще раз подчеркивают сложности в борьбе с вводящими в заблуждение результатами. Это также демонстрирует сложность обучения моделей искусственного интеллекта.
Источник
Комментарий (0)