AI-veiligheidssensoren in zelfrijdende voertuigen zijn minder nauwkeurig voor mensen van kleur en kinderen.

De explosieve groei van kunstmatige intelligentie (AI) heeft een duidelijke trend aan het licht gebracht: vooringenomenheid bij het trainen van machine learning-systemen leidt tot discriminerend gedrag in de echte wereld .

Een recente studie van een groep wetenschappers uit het Verenigd Koninkrijk en China toont aan dat software voor voetgangersdetectie in zelfrijdende voertuigen – die door veel autofabrikanten wordt gebruikt – mogelijk minder effectief is wanneer het om mensen van kleur of kinderen gaat. Dit leidt ertoe dat deze mensen een groter risico lopen in het verkeer.

AI in zelfrijdende voertuigen is vaak minder effectief bij mensen van kleur en kinderen, wat mogelijk tot ernstige ongelukken kan leiden.

Hoewel er slechts kleine verschillen in nauwkeurigheid waren tussen mannen en vrouwen, ontdekten de onderzoekers dat het AI-systeem minder nauwkeurig was in het herkennen van voetgangers met een donkere huidskleur.

"Minderheden die tot veel belangrijke diensten behoren en daarvan verstoken zijn gebleven, lopen nu een ernstig risico op ongelukken", aldus Jie Zhang, computerwetenschapper aan King's College London en lid van het onderzoeksteam.

Het rapport merkte specifiek op dat het systeem 19,67% vaker volwassenen dan kinderen detecteerde, en 7,52% minder vaak personen met een donkere huidskleur.

"Over het geheel genomen werpt dit onderzoek licht op de problemen met eerlijkheid waarmee huidige systemen voor voetgangersdetectie te maken hebben, en benadrukt het het belang van het aanpakken van vooroordelen op basis van leeftijd en huidskleur", schreef het team in hun artikel. "De verkregen inzichten zouden de weg kunnen vrijmaken voor eerlijkere en onbevooroordeelde autonome rijsystemen in de toekomst."

Volgens leden van het onderzoeksteam is in hun rapport niet exact dezelfde software gebruikt als die bedrijven zoals Tesla in hun auto's installeren, aangezien dit een bedrijfsgeheim is. In plaats daarvan is het onderzoek gebaseerd op vergelijkbare open-source AI-systemen die door bedrijven worden gebruikt.

"Het is essentieel dat beleidsmakers wetten en regels vaststellen die de rechten van alle individuen beschermen en deze zorgen op passende wijze aanpakken", drong het team er bij de wetgevers op aan om de software voor zelfrijdende auto's te reguleren om vooringenomenheid in hun detectiesystemen te voorkomen.

(Volgens Insider)

Bron: https://vietnamnet.vn/cam-bien-an-toan-ai-tren-xe-tu-hanh-kem-chinh-xac-voi-nguoi-da-mau-va-tre-em-2182710.html