ЮНЕСКО: инструменты ИИ предвзяты по отношению к женщинам

Согласно новому исследованию, опубликованному Организацией Объединенных Наций по вопросам образования , науки и культуры (ЮНЕСКО) 7 марта, многие из самых популярных в мире инструментов искусственного интеллекта (ИИ) основаны на программах, предвзятых по отношению к женщинам, разработанных компаниями OpenAI и Meta.

Крупнейшие компании в сфере искусственного интеллекта используют огромные объёмы данных из интернета для обучения своих алгоритмов, известных как большие языковые модели (LLM). ЮНЕСКО протестировала алгоритм Llama 2 от Meta и GPT-2 и GPT-3.5 от OpenAI, используемые в популярном чат-приложении ChatGPT. Результаты тестов показали наличие явных признаков предвзятости в отношении женщин.

Результаты показали, что тексты, связанные с женскими именами, сгенерированные этими инструментами, часто содержали такие слова, как «дом», «семья» или «дети», в то время как тексты, связанные с мужскими именами, часто содержали такие слова, как «бизнес», «зарплата» или «карьера»; мужчины часто описывались с такими работами, как учителя, юристы, врачи; в то время как женщины часто ассоциировались с такими работами, как приготовление пищи, работа по дому и т. д.

ДО ЦАО

Источник: https://www.sggp.org.vn/unesco-cac-cong-cu-ai-dinh-kien-voi-nu-gioi-post729797.html