Senzorii de siguranță cu inteligență artificială din mașinile autonome sunt mai puțin preciși pentru persoanele de culoare și copii

Explozia inteligenței artificiale (IA) a adus o tendință clară: prejudecățile în antrenarea sistemelor de învățare automată duce la comportamente discriminatorii în lumea reală.

Un studiu recent realizat de un grup de oameni de știință din Marea Britanie și China arată că software-ul de detectare a pietonilor echipat pe vehiculele autonome - utilizat de mulți producători de automobile - poate fi mai puțin eficient atunci când subiectul este reprezentat de persoane de culoare sau copii, ceea ce duce la un risc mai mare pentru aceste persoane atunci când participă la trafic.

Inteligența artificială din vehiculele autonome tinde să fie mai puțin eficientă cu persoanele de culoare și copiii, ceea ce poate duce la accidente grave.

Deși sexul a prezentat doar mici diferențe în ceea ce privește acuratețea, cercetătorii au descoperit că sistemul de inteligență artificială a fost mai puțin precis în recunoașterea pietonilor cu tonuri de piele mai închise.

„Persoanele din rândul minorităților cărora li s-au refuzat multe servicii importante se confruntă acum cu riscuri grave de accidente”, a declarat Jie Zhang, informatician la King’s College London și membru al echipei de cercetare.

Mai exact, raportul a menționat că sistemul avea cu 19,67% mai multe șanse să detecteze adulții decât copiii și cu 7,52% mai puține șanse să detecteze persoanele cu tonuri de piele mai închise.

„Per total, această cercetare scoate la iveală problemele de echitate cu care se confruntă sistemele actuale de detectare a pietonilor, subliniind importanța abordării prejudecăților legate de vârstă și de aspectul pielii”, a scris echipa în lucrarea sa. „Informațiile obținute ar putea deschide calea către sisteme de conducere autonomă mai echitabile și imparțiale în viitor.”

Potrivit membrilor echipei de cercetare, raportul lor nu a folosit exact software-ul pe care companii precum Tesla îl instalează în mașinile lor, deoarece acesta este un secret comercial, ci cercetarea s-a bazat pe inteligențe artificiale open-source similare utilizate de companii.

„Este esențial ca factorii de decizie politică să adopte legi și reglementări care să protejeze drepturile tuturor persoanelor și să abordeze în mod corespunzător aceste preocupări”, a îndemnat echipa să reglementeze software-ul pentru mașinile autonome pentru a preveni prejudecățile în sistemele lor de detectare.

(Conform Insider)

Sursă