Многие из самых популярных в мире инструментов искусственного интеллекта (ИИ) основаны на программах, предвзятых по отношению к женщинам, разработанных такими компаниями, как OpenAI и Meta. Таковы результаты нового исследования, опубликованного Организацией Объединенных Наций по вопросам образования , науки и культуры (ЮНЕСКО) 7 марта.
Крупнейшие компании в гонке за искусственный интеллект теперь используют огромные объемы данных из Интернета для обучения алгоритмов, известных как большие языковые модели (LLM). ЮНЕСКО протестировала алгоритм Llama 2 от Meta и GPT-2, GPT-3.5 от OpenAI, используемые в популярном чат-приложении ChatGPT. Результаты тестирования показали, что каждый из этих алгоритмов продемонстрировал явные доказательства предвзятости в отношении женщин.
Результаты показали, что тексты, связанные с женскими именами, сгенерированные этими инструментами, часто содержали такие слова, как «дом», «семья» или «дети», в то время как тексты, связанные с мужскими именами, часто содержали такие слова, как «бизнес», «зарплата» или «карьера»; Мужчин часто изображают на таких должностях, как учителя, юристы, врачи; Женщины часто ассоциируются с такими работами, как приготовление пищи, работа по дому и т. д.
ДО ЦАО
Источник
Комментарий (0)