Бурное развитие искусственного интеллекта (ИИ) выявило четкую тенденцию: предвзятость в обучении систем машинного обучения приводит к дискриминационному поведению в реальном мире .
Недавнее исследование, проведенное группой ученых из Великобритании и Китая, показывает, что программное обеспечение для обнаружения пешеходов, установленное на беспилотных автомобилях (которое используют многие автопроизводители), может быть менее эффективным, если объектом движения являются цветные люди или дети, в результате чего эти люди подвергаются большему риску при участии в дорожном движении.
Хотя гендерные различия в точности распознавания были незначительными, исследователи обнаружили, что система ИИ была менее точна в распознавании пешеходов с более темным оттенком кожи.
«Представители меньшинств, которым было отказано во многих важных услугах, теперь сталкиваются с серьезным риском несчастных случаев», — сказал Цзе Чжан, специалист по информатике из Королевского колледжа Лондона и член исследовательской группы.
В частности, в отчете отмечается, что система на 19,67% чаще обнаруживает взрослых, чем детей, и на 7,52% реже обнаруживает людей с более темным оттенком кожи.
«В целом, это исследование проливает свет на проблемы справедливости, с которыми сталкиваются современные системы обнаружения пешеходов, подчёркивая важность устранения предубеждений, связанных с возрастом и состоянием кожи», — написала группа в своей статье. «Полученные знания могут проложить путь к созданию более справедливых и беспристрастных систем автономного вождения в будущем».
По словам членов исследовательской группы, в их отчете не использовалось то самое программное обеспечение, которое такие компании, как Tesla, устанавливают в своих автомобилях, поскольку это коммерческая тайна; вместо этого исследование основывалось на аналогичных системах искусственного интеллекта с открытым исходным кодом, используемых предприятиями.
«Крайне важно, чтобы политики принимали законы и нормативные акты, защищающие права всех людей и надлежащим образом решающие эти проблемы», — призвала группа законодателей регулировать программное обеспечение беспилотных автомобилей, чтобы исключить предвзятость в их системах обнаружения.
(По данным Insider)
Источник
Комментарий (0)