Sensor keselamatan AI pada mobil self-driving kurang akurat bagi masyarakat kulit berwarna dan anak-anak

[iklan_1]

Ledakan kecerdasan buatan (AI) telah membawa tren yang jelas: Bias dalam pelatihan sistem pembelajaran mesin menyebabkan perilaku diskriminatif di dunia nyata.

Sebuah studi terkini oleh sekelompok ilmuwan di Inggris dan Cina menunjukkan bahwa perangkat lunak deteksi pejalan kaki yang dipasang pada kendaraan tanpa pengemudi - yang digunakan oleh banyak produsen mobil - mungkin kurang efektif bila subjeknya adalah orang kulit berwarna atau anak-anak, sehingga orang-orang ini menghadapi risiko lebih besar saat berpartisipasi dalam lalu lintas.

AI dalam mobil tanpa pengemudi cenderung berkinerja buruk dibandingkan masyarakat kulit berwarna dan anak-anak, yang dapat menyebabkan kecelakaan serius.

Meskipun jenis kelamin hanya menunjukkan sedikit perbedaan dalam akurasi, para peneliti menemukan bahwa sistem AI kurang akurat dalam mengenali pejalan kaki dengan warna kulit lebih gelap.

“Kelompok minoritas yang selama ini tidak mendapatkan banyak layanan penting kini menghadapi risiko kecelakaan yang serius,” ujar Jie Zhang, seorang ilmuwan komputer di King’s College London dan anggota tim peneliti.

Secara khusus, laporan tersebut mencatat bahwa sistem tersebut 19,67% lebih mungkin mendeteksi orang dewasa daripada anak-anak, dan 7,52% lebih kecil kemungkinannya mendeteksi mereka yang memiliki warna kulit lebih gelap.

"Secara keseluruhan, penelitian ini menyoroti isu-isu keadilan yang dihadapi sistem deteksi pejalan kaki saat ini, yang menyoroti pentingnya mengatasi bias terkait usia dan kulit," tulis tim dalam makalah mereka. "Wawasan yang diperoleh dapat membuka jalan bagi sistem mengemudi otonom yang lebih adil dan tidak bias di masa mendatang."

Menurut anggota tim peneliti, laporan mereka tidak menggunakan perangkat lunak yang sama persis dengan yang dipasang perusahaan seperti Tesla di mobil mereka, karena ini merupakan rahasia dagang, sebaliknya penelitian tersebut didasarkan pada AI sumber terbuka serupa yang digunakan oleh berbagai bisnis.

“Sangat penting bagi para pembuat kebijakan untuk menetapkan undang-undang dan peraturan yang melindungi hak-hak semua individu dan menangani masalah-masalah ini dengan tepat,” tim tersebut mendesak para pembuat undang-undang untuk mengatur perangkat lunak mobil self-driving guna mencegah bias dalam sistem deteksi mereka.

(Menurut Orang Dalam)

[iklan_2]
Sumber