Penderia keselamatan AI dalam kereta pandu sendiri kurang tepat untuk orang kulit berwarna dan kanak-kanak

Ledakan kecerdasan buatan (AI) telah membawa arah aliran yang jelas: Bias dalam melatih sistem pembelajaran mesin membawa kepada tingkah laku diskriminasi dalam dunia nyata .

Kajian baru-baru ini oleh pasukan saintis di UK dan China menunjukkan bahawa perisian pengesanan pejalan kaki yang dilengkapi pada kenderaan autonomi - yang digunakan oleh banyak pengeluar kereta - mungkin kurang berkesan apabila sasarannya ialah orang kulit berwarna atau kanak-kanak, yang berpotensi meletakkan individu ini pada risiko yang lebih besar dalam lalu lintas.

AI dalam kenderaan autonomi cenderung kurang berkesan dengan orang kulit berwarna dan kanak-kanak, yang berpotensi membawa kepada kemalangan yang serius.

Walaupun jantina hanya membuat perbezaan kecil dalam ketepatan, penyelidik mendapati bahawa sistem AI kurang tepat dalam mengenal pasti pejalan kaki dengan warna kulit yang lebih gelap.

“Individu dalam kumpulan minoriti, yang telah dinafikan akses kepada banyak perkhidmatan penting, kini berdepan risiko kemalangan serius yang lebih besar,” kata Jie Zhang, seorang saintis komputer di King's College London dan ahli pasukan penyelidik.

Secara khusus, laporan itu menyatakan bahawa sistem itu adalah 19.67% lebih berkemungkinan untuk mengesan orang dewasa berbanding kanak-kanak, dan 7.52% kurang berkemungkinan untuk mengesan orang yang mempunyai warna kulit yang lebih gelap.

"Secara keseluruhannya, penyelidikan ini memberi penerangan tentang isu keadilan yang dihadapi oleh sistem pengesanan pejalan kaki semasa, menonjolkan kepentingan menangani berat sebelah yang berkaitan dengan umur dan bangsa," kata laporan pasukan penyelidik itu. "Pemahaman yang diperoleh boleh membuka jalan kepada sistem pemanduan autonomi yang lebih adil dan tidak berat sebelah pada masa hadapan."

Menurut ahli pasukan penyelidik, laporan mereka tidak menggunakan perisian tepat yang dipasang oleh syarikat seperti Tesla pada kenderaan mereka, kerana ini adalah rahsia perdagangan; sebaliknya, penyelidikan adalah berdasarkan AI sumber terbuka serupa yang digunakan oleh perniagaan.

"Adalah penting bagi penggubal dasar menggubal undang-undang dan peraturan untuk melindungi hak semua individu dan menangani kebimbangan ini dengan sewajarnya." Kumpulan penyelidik menggesa penggubal undang-undang untuk mengawal selia perisian kereta pandu sendiri untuk mengelakkan berat sebelah dalam sistem pengesanan mereka.

(Menurut Insider)

Sumber: https://vietnamnet.vn/cam-bien-an-toan-ai-tren-xe-tu-hanh-kem-chinh-xac-voi-nguoi-da-mau-va-tre-em-2182710.html