Датчики безопасности на базе ИИ в беспилотных автомобилях менее точны для цветных людей и детей

Бурное развитие искусственного интеллекта (ИИ) выявило четкую тенденцию: предвзятость в обучении систем машинного обучения приводит к дискриминационному поведению в реальном мире .

Недавнее исследование, проведенное группой ученых из Великобритании и Китая, показывает, что программное обеспечение для обнаружения пешеходов, установленное на беспилотных автомобилях (которое используют многие автопроизводители), может быть менее эффективным, если объектом движения являются цветные люди или дети, в результате чего эти люди подвергаются большему риску при участии в дорожном движении.

Искусственный интеллект в беспилотных автомобилях, как правило, оказывается менее эффективным, чем у цветных людей и детей, что может привести к серьезным авариям.

Хотя гендерные различия в точности распознавания были незначительными, исследователи обнаружили, что система ИИ была менее точна в распознавании пешеходов с более темным оттенком кожи.

«Представители меньшинств, которым было отказано во многих важных услугах, теперь сталкиваются с серьезным риском несчастных случаев», — сказал Цзе Чжан, специалист по информатике из Королевского колледжа Лондона и член исследовательской группы.

В частности, в отчете отмечается, что система на 19,67% чаще обнаруживает взрослых, чем детей, и на 7,52% реже обнаруживает людей с более темным оттенком кожи.

«В целом, это исследование проливает свет на проблемы справедливости, с которыми сталкиваются современные системы обнаружения пешеходов, подчёркивая важность устранения предубеждений, связанных с возрастом и состоянием кожи», — написала группа в своей статье. «Полученные знания могут проложить путь к созданию более справедливых и беспристрастных систем автономного вождения в будущем».

По словам членов исследовательской группы, в их отчете не использовалось то самое программное обеспечение, которое такие компании, как Tesla, устанавливают в своих автомобилях, поскольку это коммерческая тайна; вместо этого исследование основывалось на аналогичных системах искусственного интеллекта с открытым исходным кодом, используемых предприятиями.

«Крайне важно, чтобы политики принимали законы и нормативные акты, защищающие права всех людей и надлежащим образом решающие эти проблемы», — призвала группа законодателей регулировать программное обеспечение беспилотных автомобилей, чтобы исключить предвзятость в их системах обнаружения.

(По данным Insider)

Источник: https://vietnamnet.vn/cam-bien-an-toan-ai-tren-xe-tu-hanh-kem-chinh-xac-voi-nguoi-da-mau-va-tre-em-2182710.html