Penderia keselamatan AI dalam kereta pandu sendiri kurang tepat untuk orang kulit berwarna dan kanak-kanak

Ledakan kecerdasan buatan (AI) telah membawa arah aliran yang jelas: Berat sebelah dalam melatih sistem pembelajaran mesin membawa kepada tingkah laku diskriminasi dalam dunia nyata .

Satu kajian baru-baru ini oleh sekumpulan saintis di UK dan China menunjukkan bahawa perisian pengesanan pejalan kaki yang dilengkapi pada kenderaan pandu sendiri - yang digunakan oleh banyak pengeluar kereta - mungkin kurang berkesan apabila subjeknya ialah orang kulit berwarna atau kanak-kanak, menyebabkan orang ini berisiko lebih besar apabila menyertai trafik.

AI dalam kereta pandu sendiri cenderung untuk berprestasi rendah orang kulit berwarna dan kanak-kanak, yang boleh membawa kepada kemalangan yang serius.

Walaupun jantina hanya menunjukkan perbezaan kecil dalam ketepatan, para penyelidik mendapati bahawa sistem AI kurang tepat dalam mengenali pejalan kaki dengan warna kulit yang lebih gelap.

"Individu minoriti yang telah dinafikan banyak perkhidmatan penting kini menghadapi risiko kemalangan yang serius," kata Jie Zhang, seorang saintis komputer di King's College London dan ahli pasukan penyelidik.

Secara khusus, laporan itu menyatakan bahawa sistem itu 19.67% lebih berkemungkinan mengesan orang dewasa berbanding kanak-kanak, dan 7.52% kurang berkemungkinan mengesan mereka yang mempunyai warna kulit yang lebih gelap.

"Secara keseluruhan, penyelidikan ini memberi penerangan tentang isu keadilan yang dihadapi oleh sistem pengesanan pejalan kaki semasa, menonjolkan kepentingan menangani berat sebelah berkaitan umur dan kulit," tulis pasukan itu dalam kertas kerja mereka. "Pemahaman yang diperoleh boleh membuka jalan kepada sistem pemanduan autonomi yang lebih adil dan tidak berat sebelah pada masa hadapan."

Menurut ahli pasukan penyelidik, laporan mereka tidak menggunakan perisian tepat yang dipasang oleh syarikat seperti Tesla di dalam kereta mereka, kerana ini adalah rahsia perdagangan, sebaliknya penyelidikan itu berdasarkan AI sumber terbuka serupa yang digunakan oleh perniagaan.

"Adalah penting bagi penggubal dasar menggubal undang-undang dan peraturan yang melindungi hak semua individu dan menangani kebimbangan ini dengan sewajarnya," pasukan itu menggesa penggubal undang-undang untuk mengawal selia perisian kereta pandu sendiri untuk mengelakkan berat sebelah dalam sistem pengesanan mereka.

(Menurut Insider)

Sumber: https://vietnamnet.vn/cam-bien-an-toan-ai-tren-xe-tu-hanh-kem-chinh-xac-voi-nguoi-da-mau-va-tre-em-2182710.html