Czujniki bezpieczeństwa AI w samochodach autonomicznych są mniej dokładne w przypadku osób czarnoskórych i dzieci

Rozwój sztucznej inteligencji (AI) przyniósł wyraźną tendencję: stronniczość w szkoleniu systemów uczenia maszynowego prowadzi do zachowań dyskryminacyjnych w świecie rzeczywistym.

Najnowsze badanie przeprowadzone przez grupę naukowców z Wielkiej Brytanii i Chin wykazało, że oprogramowanie do wykrywania pieszych montowane w pojazdach autonomicznych – stosowane przez wielu producentów samochodów – może być mniej skuteczne, gdy osobami tymi są osoby kolorowe lub dzieci. Może to sprawić, że osoby te będą narażone na większe ryzyko podczas uczestnictwa w ruchu drogowym.

Sztuczna inteligencja w samochodach autonomicznych zwykle nie sprawdza się w przypadku osób czarnoskórych i dzieci, co może prowadzić do poważnych wypadków.

Mimo że różnice w dokładności pomiarów ze względu na płeć były niewielkie, badacze odkryli, że system sztucznej inteligencji był mniej dokładny w rozpoznawaniu pieszych o ciemniejszym odcieniu skóry.

„Osoby należące do mniejszości, którym odmówiono dostępu do wielu ważnych usług, są teraz narażone na poważne wypadki” – powiedział Jie Zhang, informatyk z King’s College London i członek zespołu badawczego.

W raporcie zauważono, że system ma o 19,67% większą szansę na wykrycie osób dorosłych niż dzieci, a o 7,52% mniejszą szansę na wykrycie osób o ciemniejszym odcieniu skóry.

„Ogólnie rzecz biorąc, badania te rzucają światło na problemy z uczciwością, z jakimi borykają się obecne systemy detekcji pieszych, podkreślając wagę eliminowania uprzedzeń związanych z wiekiem i kolorem skóry” – napisali zespół w swoim artykule. „Zdobyte informacje mogą utorować drogę do bardziej uczciwych i obiektywnych systemów autonomicznej jazdy w przyszłości”.

Członkowie zespołu badawczego twierdzą, że w ich raporcie nie wykorzystano konkretnego oprogramowania, które firmy takie jak Tesla instalują w swoich samochodach, gdyż stanowi ono tajemnicę handlową; zamiast tego badania oparto na podobnych rozwiązaniach typu open source opartych na sztucznej inteligencji, z których korzystają przedsiębiorstwa.

„Niezbędne jest, aby decydenci uchwalili prawa i regulacje chroniące prawa wszystkich jednostek i odpowiednio rozwiązywali te problemy” – zespół wezwał prawodawców do uregulowania oprogramowania samochodów autonomicznych, aby zapobiec stronniczości w ich systemach wykrywania.

(Według Insidera)

Źródło: https://vietnamnet.vn/cam-bien-an-toan-ai-tren-xe-tu-hanh-kem-chinh-xac-voi-nguoi-da-mau-va-tre-em-2182710.html