เซ็นเซอร์ความปลอดภัย AI ในรถยนต์ขับเคลื่อนอัตโนมัติมีความแม่นยำน้อยกว่าสำหรับคนผิวสีและเด็ก

การระเบิดของปัญญาประดิษฐ์ (AI) นำมาซึ่งแนวโน้มที่ชัดเจน: อคติในการฝึกระบบการเรียนรู้ของเครื่องจักรนำไปสู่พฤติกรรมการเลือกปฏิบัติใน โลก แห่งความเป็นจริง

การศึกษาเมื่อเร็วๆ นี้โดยกลุ่ม นักวิทยาศาสตร์ ในสหราชอาณาจักรและจีนแสดงให้เห็นว่าซอฟต์แวร์ตรวจจับคนเดินถนนที่ติดตั้งในรถยนต์ขับเคลื่อนอัตโนมัติ ซึ่งผู้ผลิตยานยนต์หลายรายกำลังใช้ อาจมีประสิทธิภาพน้อยลงหากบุคคลนั้นเป็นคนผิวสีหรือเด็ก ส่งผลให้คนเหล่านี้มีความเสี่ยงมากขึ้นเมื่ออยู่ในการจราจร

AI ในรถยนต์ขับเคลื่อนอัตโนมัติมีแนวโน้มที่จะทำงานได้ต่ำกว่ามาตรฐานของคนผิวสีและเด็ก ซึ่งอาจนำไปสู่การเกิดอุบัติเหตุร้ายแรงได้

แม้ว่าเพศจะแสดงความแตกต่างเพียงเล็กน้อยในความแม่นยำ แต่ผู้วิจัยพบว่าระบบ AI มีความแม่นยำน้อยกว่าในการจดจำคนเดินถนนที่มีโทนสีผิวเข้ม

“บุคคลกลุ่มน้อยที่ถูกปฏิเสธบริการสำคัญหลายอย่างกำลังเผชิญกับความเสี่ยงต่ออุบัติเหตุร้ายแรง” Jie Zhang นักวิทยาศาสตร์คอมพิวเตอร์จาก King’s College London และหนึ่งในสมาชิกทีมวิจัยกล่าว

โดยเฉพาะอย่างยิ่ง รายงานระบุว่าระบบดังกล่าวมีแนวโน้มที่จะตรวจจับผู้ใหญ่ได้มากกว่าเด็กถึง 19.67% และมีแนวโน้มที่จะตรวจจับผู้ที่มีโทนสีผิวเข้มได้น้อยกว่า 7.52%

“โดยรวมแล้ว งานวิจัยนี้แสดงให้เห็นถึงประเด็นเรื่องความยุติธรรมที่ระบบตรวจจับคนเดินถนนในปัจจุบันกำลังเผชิญอยู่ โดยเน้นย้ำถึงความสำคัญของการจัดการกับอคติที่เกี่ยวข้องกับอายุและสีผิว” ทีมงานเขียนไว้ในรายงาน “ข้อมูลเชิงลึกที่ได้อาจปูทางไปสู่ระบบขับขี่อัตโนมัติที่ยุติธรรมและปราศจากอคติมากขึ้นในอนาคต”

ตามที่สมาชิกในทีมวิจัยระบุ รายงานของพวกเขาไม่ได้ใช้ซอฟต์แวร์ที่บริษัทอย่าง Tesla ติดตั้งในรถของพวกเขา เนื่องจากถือเป็นความลับทางการค้า แต่การวิจัยกลับใช้ AI โอเพ่นซอร์สที่คล้ายกับที่ธุรกิจต่างๆ ใช้

“สิ่งสำคัญคือผู้กำหนดนโยบายจะต้องบัญญัติกฎหมายและข้อบังคับที่คุ้มครองสิทธิของบุคคลทุกคนและแก้ไขข้อกังวลเหล่านี้อย่างเหมาะสม” ทีมงานเรียกร้องให้นักกฎหมายควบคุมซอฟต์แวร์รถยนต์ขับเคลื่อนอัตโนมัติเพื่อป้องกันอคติในระบบตรวจจับ

(ตามข้อมูลจากวงใน)

แหล่งที่มา