Les capteurs de sécurité IA des voitures autonomes sont moins précis pour les personnes de couleur et les enfants

L’explosion de l’intelligence artificielle (IA) a fait apparaître une tendance claire : les biais dans la formation des systèmes d’apprentissage automatique conduisent à un comportement discriminatoire dans le monde réel.

Une étude récente menée par un groupe de scientifiques au Royaume-Uni et en Chine montre que les logiciels de détection des piétons équipés sur les véhicules autonomes - utilisés par de nombreux constructeurs automobiles - peuvent être moins efficaces lorsque le sujet est une personne de couleur ou un enfant, ce qui expose ces personnes à un risque accru lorsqu'elles participent à la circulation.

L’IA dans les voitures autonomes a tendance à être moins performante pour les personnes de couleur et les enfants, ce qui pourrait entraîner de graves accidents.

Bien que le sexe n'ait montré que de petites différences de précision, les chercheurs ont constaté que le système d'IA était moins précis pour reconnaître les piétons ayant une peau plus foncée.

« Les personnes issues de minorités qui se sont vu refuser de nombreux services importants sont désormais confrontées à de graves risques d’accident », a déclaré Jie Zhang, informaticien au King’s College de Londres et membre de l’équipe de recherche.

Plus précisément, le rapport a noté que le système était 19,67 % plus susceptible de détecter les adultes que les enfants, et 7,52 % moins susceptible de détecter les personnes ayant une peau plus foncée.

« Globalement, cette recherche met en lumière les problèmes d'équité auxquels sont confrontés les systèmes actuels de détection des piétons, soulignant l'importance de s'attaquer aux biais liés à l'âge et à la peau », a écrit l'équipe dans son article. « Les connaissances acquises pourraient ouvrir la voie à des systèmes de conduite autonome plus justes et impartiaux à l'avenir. »

Selon les membres de l'équipe de recherche, leur rapport n'a pas utilisé le logiciel exact que des entreprises comme Tesla installent dans leurs voitures, car il s'agit d'un secret commercial, mais la recherche était basée sur des IA open source similaires utilisées par les entreprises.

« Il est essentiel que les décideurs politiques adoptent des lois et des réglementations qui protègent les droits de tous les individus et répondent de manière appropriée à ces préoccupations », a exhorté l'équipe à réglementer les logiciels de voitures autonomes afin d'éviter tout biais dans leurs systèmes de détection.

(Selon Insider)

Source: https://vietnamnet.vn/cam-bien-an-toan-ai-tren-xe-tu-hanh-kem-chinh-xac-voi-nguoi-da-mau-va-tre-em-2182710.html