Bezpečnostní senzory s umělou inteligencí v autonomních vozidlech jsou méně přesné pro barevné lidi a děti

Exploze umělé inteligence (AI) přinesla jasný trend: zkreslení při trénování systémů strojového učení vede k diskriminačnímu chování v reálném světě .

Nedávná studie skupiny vědců ve Velké Británii a Číně ukazuje, že software pro detekci chodců, kterým jsou vybavena autonomní vozidla – a který používá mnoho výrobců automobilů – může být méně účinný, pokud se jedná o barevné lidi nebo děti, což vede k tomu, že tito lidé jsou při účasti na silničním provozu vystaveni většímu riziku.

Umělá inteligence v autonomních vozidlech má tendenci poskytovat horší výkony než barevní lidé a děti, což by mohlo vést k vážným nehodám.

Přestože pohlaví vykazovalo jen malé rozdíly v přesnosti, vědci zjistili, že systém umělé inteligence byl méně přesný v rozpoznávání chodců s tmavším odstínem pleti.

„Osoby z řad menšin, kterým bylo odepřeno mnoho důležitých služeb, nyní čelí vážnému riziku nehod,“ řekl Jie Zhang, informatik z King's College London a člen výzkumného týmu.

Zpráva konkrétně uvádí, že systém měl o 19,67 % vyšší pravděpodobnost detekce dospělých než dětí a o 7,52 % nižší pravděpodobnost detekce osob s tmavším odstínem pleti.

„Celkově tento výzkum osvětluje problémy spravedlnosti, kterým čelí současné systémy detekce chodců, a zdůrazňuje důležitost řešení předsudků souvisejících s věkem a pletí,“ napsal tým ve svém článku. „Získané poznatky by mohly v budoucnu připravit cestu pro spravedlivější a nestrannější systémy autonomního řízení.“

Podle členů výzkumného týmu jejich zpráva nepoužila přesně ten software, který společnosti jako Tesla instalují do svých aut, protože se jedná o obchodní tajemství, místo toho byl výzkum založen na podobných open-source umělých inteligencích používaných podniky.

„Je nezbytné, aby tvůrci politik přijali zákony a předpisy, které chrání práva všech jednotlivců a tyto obavy vhodně řeší,“ tým naléhal na zákonodárce, aby regulovali software pro autonomní vozidla, aby se zabránilo zkreslení v jejich detekčních systémech.

(Podle Insideru)

Zdroj