การระเบิดของปัญญาประดิษฐ์ (AI) นำมาซึ่งแนวโน้มที่ชัดเจน: อคติในการฝึกระบบการเรียนรู้ของเครื่องจักรนำไปสู่พฤติกรรมการเลือกปฏิบัติใน โลก แห่งความเป็นจริง
การศึกษาเมื่อเร็วๆ นี้โดยกลุ่ม นักวิทยาศาสตร์ ในสหราชอาณาจักรและจีนแสดงให้เห็นว่าซอฟต์แวร์ตรวจจับคนเดินถนนที่ติดตั้งในรถยนต์ขับเคลื่อนอัตโนมัติ ซึ่งผู้ผลิตยานยนต์หลายรายกำลังใช้ อาจมีประสิทธิภาพน้อยลงหากบุคคลนั้นเป็นคนผิวสีหรือเด็ก ส่งผลให้คนเหล่านี้มีความเสี่ยงมากขึ้นเมื่ออยู่ในการจราจร
แม้ว่าเพศจะแสดงความแตกต่างเพียงเล็กน้อยในความแม่นยำ แต่ผู้วิจัยพบว่าระบบ AI มีความแม่นยำน้อยกว่าในการจดจำคนเดินถนนที่มีโทนสีผิวเข้ม
“บุคคลกลุ่มน้อยที่ถูกปฏิเสธบริการสำคัญหลายอย่างกำลังเผชิญกับความเสี่ยงต่ออุบัติเหตุร้ายแรง” Jie Zhang นักวิทยาศาสตร์คอมพิวเตอร์จาก King’s College London และหนึ่งในสมาชิกทีมวิจัยกล่าว
โดยเฉพาะอย่างยิ่ง รายงานระบุว่าระบบดังกล่าวมีแนวโน้มที่จะตรวจจับผู้ใหญ่ได้มากกว่าเด็กถึง 19.67% และมีแนวโน้มที่จะตรวจจับผู้ที่มีโทนสีผิวเข้มได้น้อยกว่า 7.52%
“โดยรวมแล้ว งานวิจัยนี้แสดงให้เห็นถึงประเด็นเรื่องความยุติธรรมที่ระบบตรวจจับคนเดินถนนในปัจจุบันกำลังเผชิญอยู่ โดยเน้นย้ำถึงความสำคัญของการจัดการกับอคติที่เกี่ยวข้องกับอายุและสีผิว” ทีมงานเขียนไว้ในรายงาน “ข้อมูลเชิงลึกที่ได้อาจปูทางไปสู่ระบบขับขี่อัตโนมัติที่ยุติธรรมและปราศจากอคติมากขึ้นในอนาคต”
ตามที่สมาชิกในทีมวิจัยระบุ รายงานของพวกเขาไม่ได้ใช้ซอฟต์แวร์ที่บริษัทอย่าง Tesla ติดตั้งในรถของพวกเขา เนื่องจากถือเป็นความลับทางการค้า แต่การวิจัยกลับใช้ AI โอเพ่นซอร์สที่คล้ายกับที่ธุรกิจต่างๆ ใช้
“สิ่งสำคัญคือผู้กำหนดนโยบายจะต้องบัญญัติกฎหมายและข้อบังคับที่คุ้มครองสิทธิของบุคคลทุกคนและแก้ไขข้อกังวลเหล่านี้อย่างเหมาะสม” ทีมงานเรียกร้องให้นักกฎหมายควบคุมซอฟต์แวร์รถยนต์ขับเคลื่อนอัตโนมัติเพื่อป้องกันอคติในระบบตรวจจับ
(ตามข้อมูลจากวงใน)
แหล่งที่มา
การแสดงความคิดเห็น (0)