AI-veiligheidssensoren in zelfrijdende auto's zijn minder nauwkeurig voor mensen van kleur en kinderen

De explosie van kunstmatige intelligentie (AI) heeft een duidelijke trend teweeggebracht: vooroordelen bij het trainen van machine learning-systemen leiden tot discriminerend gedrag in de echte wereld .

Uit een recent onderzoek van een groep wetenschappers uit het Verenigd Koninkrijk en China blijkt dat software voor het detecteren van voetgangers in zelfrijdende auto's - en die door veel autofabrikanten wordt gebruikt - mogelijk minder effectief is bij mensen van kleur of kinderen. Deze mensen lopen daardoor een groter risico om deel te nemen aan het verkeer.

AI in zelfrijdende auto's presteert vaak slechter dan mensen van kleur en kinderen, wat tot ernstige ongelukken kan leiden.

Hoewel de nauwkeurigheid per geslacht slechts klein was, ontdekten de onderzoekers dat het AI-systeem minder nauwkeurig was in het herkennen van voetgangers met een donkere huidskleur.

"Minderheidsgroepen die veel belangrijke diensten zijn onthouden, lopen nu een groot risico op ongelukken", aldus Jie Zhang, computerwetenschapper aan King's College London en lid van het onderzoeksteam.

Uit het rapport bleek dat het systeem 19,67% meer kans had om volwassenen te detecteren dan kinderen, en 7,52% minder kans om mensen met een donkere huidskleur te detecteren.

"Over het algemeen werpt dit onderzoek licht op de problemen met eerlijkheid waarmee huidige systemen voor voetgangersdetectie kampen, en benadrukt het belang van het aanpakken van leeftijds- en huidgerelateerde vooroordelen", schreef het team in hun paper. "De verkregen inzichten zouden de weg kunnen vrijmaken voor eerlijkere en objectievere autonome rijsystemen in de toekomst."

Volgens leden van het onderzoeksteam is in hun rapport niet gebruikgemaakt van de exacte software die bedrijven als Tesla in hun auto's installeren, aangezien dit een bedrijfsgeheim is. In plaats daarvan is het onderzoek gebaseerd op vergelijkbare open-source AI's die door bedrijven worden gebruikt.

"Het is essentieel dat beleidsmakers wetten en regels opstellen die de rechten van alle individuen beschermen en op passende wijze omgaan met deze zorgen", drong het team er bij wetgevers op aan om de software van zelfrijdende auto's te reguleren en vooringenomenheid in hun detectiesystemen te voorkomen.

(Volgens Insider)

Bron: https://vietnamnet.vn/cam-bien-an-toan-ai-tren-xe-tu-hanh-kem-chinh-xac-voi-nguoi-da-mau-va-tre-em-2182710.html