Датчики безпеки штучного інтелекту в автомобілях з автономним керуванням менш точні для кольорових людей та дітей

Вибухове зростання штучного інтелекту (ШІ) принесло чітку тенденцію: упередженість у навчанні систем машинного навчання призводить до дискримінаційної поведінки в реальному світі .

Нещодавнє дослідження групи вчених у Великій Британії та Китаї показує, що програмне забезпечення для виявлення пішоходів, яким оснащені безпілотні автомобілі, яке використовують багато виробників автомобілів, може бути менш ефективним, якщо об'єктом є кольорові люди або діти, що призводить до більшого ризику для цих людей під час участі в дорожньому русі.

Штучний інтелект в автономних транспортних засобах, як правило, менш ефективний для кольорових людей та дітей, що потенційно може призвести до серйозних аварій.

Хоча стать показала лише незначні відмінності в точності, дослідники виявили, що система штучного інтелекту була менш точною у розпізнаванні пішоходів з темнішим відтінком шкіри.

«Представники меншин, яким було відмовлено в багатьох важливих послугах, тепер стикаються з серйозними ризиками нещасних випадків», – сказав Цзе Чжан, фахівець з інформатики з Королівського коледжу Лондона та член дослідницької групи.

Зокрема, у звіті зазначалося, що система на 19,67% частіше виявляла дорослих, ніж дітей, і на 7,52% рідше виявляла людей з темнішим відтінком шкіри.

«Загалом, це дослідження проливає світло на проблеми справедливості, з якими стикаються сучасні системи виявлення пішоходів, підкреслюючи важливість вирішення проблем, пов’язаних з віком та шкірою», – написала команда у своїй статті. «Отримані дані можуть прокласти шлях для більш справедливих та неупереджених систем автономного водіння в майбутньому».

За словами членів дослідницької групи, у їхньому звіті не використовувалося те саме програмне забезпечення, яке такі компанії, як Tesla, встановлюють у свої автомобілі, оскільки це комерційна таємниця, натомість дослідження базувалося на аналогічних штучних інтелектах з відкритим кодом, що використовуються підприємствами.

«Вкрай важливо, щоб політики прийняли закони та нормативні акти, які захищають права всіх осіб, та належним чином вирішували ці проблеми», – команда закликала законодавців регулювати програмне забезпечення для автомобілів з автономним керуванням, щоб запобігти упередженості в їхніх системах виявлення.

(За даними Інсайдера)

Джерело