Czujniki bezpieczeństwa AI w samochodach autonomicznych są mniej dokładne w przypadku osób kolorowych i dzieci

Rozwój sztucznej inteligencji (AI) przyniósł wyraźną tendencję: stronniczość w szkoleniu systemów uczenia maszynowego prowadzi do zachowań dyskryminacyjnych w świecie rzeczywistym.

Najnowsze badanie przeprowadzone przez zespół naukowców z Wielkiej Brytanii i Chin wykazało, że oprogramowanie do wykrywania pieszych montowane w pojazdach autonomicznych – stosowane przez wielu producentów samochodów – może być mniej skuteczne, gdy celem są osoby kolorowe lub dzieci, co może narażać te osoby na większe ryzyko w ruchu drogowym.

Sztuczna inteligencja w pojazdach autonomicznych jest zwykle mniej skuteczna w przypadku osób kolorowych i dzieci, co może prowadzić do poważnych wypadków.

Mimo że płeć miała tylko niewielki wpływ na dokładność pomiarów, badacze odkryli, że system sztucznej inteligencji był mniej dokładny w identyfikowaniu pieszych o ciemniejszym odcieniu skóry.

„Osoby należące do grup mniejszościowych, którym już wcześniej odmówiono dostępu do wielu podstawowych usług, teraz są narażone na jeszcze większe ryzyko poważnych wypadków” – powiedział Jie Zhang, informatyk z King’s College London i członek zespołu badawczego.

W raporcie zauważono, że system ma o 19,67% większą szansę na wykrycie osób dorosłych niż dzieci, a o 7,52% mniejszą szansę na wykrycie osób o ciemniejszym odcieniu skóry.

„Ogólnie rzecz biorąc, badania te rzucają światło na problemy z uczciwością, z jakimi borykają się obecne systemy detekcji pieszych, podkreślając wagę zwalczania uprzedzeń związanych z wiekiem i rasą” – czytamy w raporcie zespołu badawczego. „Zdobyte informacje mogą utorować drogę do bardziej sprawiedliwych i obiektywnych systemów autonomicznej jazdy w przyszłości”.

Członkowie zespołu badawczego twierdzą, że w ich raporcie nie wykorzystano konkretnego oprogramowania, które firmy takie jak Tesla instalują w swoich pojazdach, gdyż stanowi ono tajemnicę handlową; zamiast tego badania oparto na podobnej sztucznej inteligencji typu open source, z której korzystają firmy.

„Niezbędne jest, aby decydenci uchwalili przepisy i regulacje chroniące prawa wszystkich osób i odpowiednio rozwiązywali te problemy”. Grupa badawcza zaapelowała do prawodawców o wprowadzenie regulacji dotyczących oprogramowania samochodów autonomicznych, aby zapobiec stronniczości w ich systemach wykrywania.

(Według Insidera)

Źródło: https://vietnamnet.vn/cam-bien-an-toan-ai-tren-xe-tu-hanh-kem-chinh-xac-voi-nguoi-da-mau-va-tre-em-2182710.html