AI-säkerhetssensorer i självkörande bilar är mindre exakta för färgade personer och barn

[annons_1]

Explosionen av artificiell intelligens (AI) har lett till en tydlig trend: Partiskhet i träning av maskininlärningssystem leder till diskriminerande beteende i den verkliga världen .

En nyligen genomförd studie av en grupp forskare i Storbritannien och Kina visar att programvara för fotgängardetektering i självkörande fordon – som används av många biltillverkare – kan vara mindre effektiv när det gäller personer med annan hudfärg eller barn, vilket leder till att dessa personer löper större risk att delta i trafiken.

AI i autonoma fordon tenderar att vara mindre effektivt med färgade personer och barn, vilket potentiellt kan leda till allvarliga olyckor.

Även om könsskillnader endast visade små skillnader i noggrannhet, fann forskarna att AI-systemet var mindre exakt när det gällde att känna igen fotgängare med mörkare hudtoner.

”Minoritetsindivider som har nekats många viktiga tjänster står nu inför allvarliga olycksrisker”, säger Jie Zhang, datavetare vid King’s College London och medlem i forskargruppen.

Mer specifikt noterade rapporten att systemet hade 19,67 % större sannolikhet att upptäcka vuxna än barn, och 7,52 % mindre sannolikhet att upptäcka personer med mörkare hudtoner.

”Sammantaget belyser denna forskning de rättviseproblem som nuvarande fotgängardetekteringssystem står inför, och betonar vikten av att ta itu med ålders- och hudrelaterade fördomar”, skrev teamet i sin artikel. ”De insikter som erhållits kan bana väg för mer rättvisa och opartiska autonoma körsystem i framtiden.”

Enligt medlemmar i forskargruppen använde deras rapport inte exakt den programvara som företag som Tesla installerar i sina bilar, eftersom detta är en affärshemlighet. Istället baserades forskningen på liknande AI med öppen källkod som används av företag.

"Det är viktigt att beslutsfattare antar lagar och förordningar som skyddar alla individers rättigheter och på lämpligt sätt tar itu med dessa problem", uppmanade teamet lagstiftarna att reglera programvara för självkörande bilar för att förhindra partiskhet i sina detekteringssystem.

(Enligt Insider)

[annons_2]
Källa