เซ็นเซอร์ความปลอดภัย AI ในรถยนต์ขับเคลื่อนอัตโนมัติมีความแม่นยำน้อยกว่าสำหรับคนผิวสีและเด็กๆ

การระเบิดของปัญญาประดิษฐ์ (AI) ทำให้เกิดแนวโน้มที่ชัดเจน: อคติในการฝึกระบบการเรียนรู้ของเครื่องจักรนำไปสู่พฤติกรรมการเลือกปฏิบัติในโลก แห่งความเป็นจริง

การศึกษาล่าสุดโดยกลุ่ม นักวิทยาศาสตร์ ในสหราชอาณาจักรและจีนแสดงให้เห็นว่าซอฟต์แวร์ตรวจจับคนเดินถนนที่ติดตั้งในรถยนต์ขับเคลื่อนอัตโนมัติ ซึ่งผู้ผลิตยานยนต์หลายรายกำลังใช้งานอยู่ อาจมีประสิทธิผลน้อยลงหากบุคคลเหล่านั้นเป็นคนผิวสีหรือเด็ก ทำให้ผู้คนเหล่านี้มีความเสี่ยงมากขึ้นเมื่อเข้าร่วมการจราจร

AI ในรถยนต์ขับเคลื่อนอัตโนมัติมีแนวโน้มว่าจะมีประสิทธิภาพน้อยลงกับผู้คนที่มีสีผิวหรือเด็กๆ ซึ่งอาจนำไปสู่การเกิดอุบัติเหตุร้ายแรงได้

แม้ว่าเพศจะแสดงความแตกต่างเพียงเล็กน้อยในความแม่นยำ แต่ผู้วิจัยพบว่าระบบ AI นั้นมีความแม่นยำน้อยกว่าในการจดจำคนเดินถนนที่มีโทนสีผิวเข้ม

“บุคคลกลุ่มน้อยที่ถูกปฏิเสธบริการสำคัญๆ หลายอย่างกำลังเผชิญกับความเสี่ยงที่จะเกิดอุบัติเหตุร้ายแรง” Jie Zhang นักวิทยาศาสตร์คอมพิวเตอร์จาก King's College London และหนึ่งในสมาชิกของทีมวิจัยกล่าว

โดยเฉพาะอย่างยิ่ง รายงานระบุว่าระบบดังกล่าวมีแนวโน้มที่จะตรวจจับผู้ใหญ่ได้มากกว่าเด็กถึง 19.67% และมีแนวโน้มที่จะตรวจจับผู้ที่มีโทนสีผิวเข้มน้อยกว่าถึง 7.52%

โดยรวมแล้ว การวิจัยครั้งนี้แสดงให้เห็นถึงปัญหาความเป็นธรรมที่ระบบตรวจจับคนเดินถนนต้องเผชิญในปัจจุบัน และเน้นย้ำถึงความสำคัญของการแก้ไขอคติที่เกี่ยวข้องกับอายุและสีผิว” ทีมงานรายงาน “ข้อมูลเชิงลึกที่ได้รับอาจนำไปสู่ระบบขับขี่อัตโนมัติที่ยุติธรรมและไม่มีอคติมากขึ้นในอนาคต”

ตามที่สมาชิกในทีมวิจัยระบุ รายงานของพวกเขาไม่ได้ใช้ซอฟต์แวร์ที่บริษัทอย่าง Tesla ติดตั้งในรถของพวกเขา เพราะถือว่านี่เป็นความลับทางการค้า แต่การวิจัยกลับพึ่งพา AI โอเพนซอร์สที่คล้ายคลึงกันที่ธุรกิจต่างๆ ใช้

“สิ่งสำคัญคือผู้กำหนดนโยบายจะต้องตรากฎหมายและข้อบังคับที่คุ้มครองสิทธิของบุคคลทั้งหมดและแก้ไขข้อกังวลเหล่านี้อย่างเหมาะสม” ทีมงานกำลังเรียกร้องให้ผู้กำหนดนโยบายควบคุมซอฟต์แวร์รถยนต์ขับเคลื่อนอัตโนมัติเพื่อป้องกันอคติในระบบการตรวจจับ

(ตามข้อมูลจาก Insider)

แหล่งที่มา