Les capteurs de sécurité basés sur l'IA dans les voitures autonomes sont moins précis pour les personnes de couleur et les enfants.

L’explosion de l’intelligence artificielle (IA) a fait émerger une tendance claire : les biais dans l’entraînement des systèmes d’apprentissage automatique conduisent à un comportement discriminatoire dans le monde réel.

Une étude récente menée par un groupe de scientifiques britanniques et chinois montre que les logiciels de détection des piétons équipant les véhicules autonomes – utilisés par de nombreux constructeurs automobiles – pourraient être moins efficaces lorsque le sujet est une personne de couleur ou un enfant, ce qui expose ces personnes à un risque accru lorsqu'elles circulent sur la route.

L'intelligence artificielle embarquée dans les voitures autonomes a tendance à être moins performante avec les personnes de couleur et les enfants, ce qui pourrait entraîner des accidents graves.

Bien que le sexe n'ait montré que de faibles différences en termes de précision, les chercheurs ont constaté que le système d'IA était moins précis pour reconnaître les piétons à la peau plus foncée.

« Les personnes appartenant à des minorités, qui se sont vu refuser de nombreux services essentiels, sont désormais confrontées à de graves risques d’accidents », a déclaré Jie Zhang, informaticien au King’s College de Londres et membre de l’équipe de recherche.

Plus précisément, le rapport a noté que le système était 19,67 % plus susceptible de détecter les adultes que les enfants, et 7,52 % moins susceptible de détecter les personnes ayant un teint plus foncé.

« Globalement, cette recherche met en lumière les problèmes d’équité auxquels sont confrontés les systèmes actuels de détection des piétons, soulignant l’importance de corriger les biais liés à l’âge et à la couleur de peau », a écrit l’équipe dans son article. « Les connaissances acquises pourraient ouvrir la voie à des systèmes de conduite autonome plus équitables et impartiaux à l’avenir. »

Selon les membres de l'équipe de recherche, leur rapport n'a pas utilisé le logiciel exact que des entreprises comme Tesla installent dans leurs voitures, car il s'agit d'un secret commercial ; la recherche s'est plutôt basée sur des IA open source similaires utilisées par les entreprises.

« Il est essentiel que les décideurs politiques adoptent des lois et des règlements qui protègent les droits de tous les individus et qui répondent adéquatement à ces préoccupations », a déclaré l'équipe, exhortant les législateurs à réglementer les logiciels des voitures autonomes afin de prévenir les biais dans leurs systèmes de détection.

(Selon Insider)

Source: https://vietnamnet.vn/cam-bien-an-toan-ai-tren-xe-tu-hanh-kem-chinh-xac-voi-nguoi-da-mau-va-tre-em-2182710.html