Согласно новому исследованию, опубликованному Организацией Объединенных Наций по вопросам образования , науки и культуры (ЮНЕСКО) 7 марта, многие из самых популярных в мире инструментов искусственного интеллекта (ИИ) работают на предвзятых программах, разработанных такими компаниями, как OpenAI и Meta.
Крупнейшие компании, участвующие в гонке за искусственный интеллект, используют огромные объёмы данных из интернета для обучения своих алгоритмов, известных как большие языковые модели (LLM). ЮНЕСКО протестировала алгоритм Llama 2 от Meta и GPT-2 и GPT-3.5 от OpenAI, используемые в популярном чат-приложении ChatGPT. Результаты тестов показали наличие явных признаков предвзятости в отношении женщин.
Результаты показали, что тексты, связанные с женскими именами, сгенерированные этими инструментами, часто содержали такие слова, как «дом», «семья» или «дети», в то время как тексты, связанные с мужскими именами, часто содержали такие слова, как «бизнес», «зарплата» или «карьера»; мужчины часто описывались с такими работами, как учителя, юристы, врачи; в то время как женщины часто ассоциировались с такими работами, как приготовление пищи, работа по дому и т. д.
ДО ЦАО
Источник
Комментарий (0)