أجهزة استشعار السلامة التي تعمل بالذكاء الاصطناعي في السيارات ذاتية القيادة أقل دقة بالنسبة للأشخاص ذوي البشرة الملونة والأطفال

[إعلان 1]

لقد أدى انفجار الذكاء الاصطناعي إلى ظهور اتجاه واضح: التحيز في تدريب أنظمة التعلم الآلي يؤدي إلى سلوك تمييزي في العالم الحقيقي.

أظهرت دراسة حديثة أجراها مجموعة من العلماء في المملكة المتحدة والصين أن برامج الكشف عن المشاة المجهزة بالمركبات ذاتية القيادة - والتي تستخدمها العديد من شركات تصنيع السيارات - قد تكون أقل فعالية عندما يكون الموضوع أشخاصًا ملونين أو أطفالًا، مما يؤدي إلى تعرض هؤلاء الأشخاص لخطر أكبر عند المشاركة في حركة المرور.

تميل الذكاء الاصطناعي في السيارات ذاتية القيادة إلى عدم الأداء بشكل جيد مع الأشخاص الملونين والأطفال، مما قد يؤدي إلى وقوع حوادث خطيرة.

ورغم أن الجنس أظهر اختلافات صغيرة فقط في الدقة، وجد الباحثون أن نظام الذكاء الاصطناعي كان أقل دقة في التعرف على المشاة ذوي درجات البشرة الداكنة.

وقال جيه تشانغ، عالم الكمبيوتر في كلية كينجز لندن وعضو فريق البحث، "إن الأفراد من الأقليات الذين حرموا من العديد من الخدمات المهمة يواجهون الآن مخاطر حوادث خطيرة".

وعلى وجه التحديد، أشار التقرير إلى أن النظام كان أكثر قدرة بنسبة 19.67% على اكتشاف البالغين مقارنة بالأطفال، وأقل قدرة بنسبة 7.52% على اكتشاف أصحاب البشرة الداكنة.

كتب الفريق في ورقته البحثية: "بشكل عام، يُسلّط هذا البحث الضوء على قضايا العدالة التي تواجه أنظمة رصد المشاة الحالية، مُسلّطًا الضوء على أهمية معالجة التحيزات المرتبطة بالعمر والبشرة". وأضاف: "قد تُمهّد هذه الرؤى المُكتسبة الطريق لأنظمة قيادة ذاتية أكثر عدالةً وحياديةً في المستقبل".

وبحسب أعضاء فريق البحث، فإن تقريرهم لم يستخدم نفس البرنامج الذي تقوم شركات مثل تيسلا بتثبيته في سياراتها، لأن هذا سر تجاري، وبدلاً من ذلك استند البحث على أنظمة الذكاء الاصطناعي مفتوحة المصدر المماثلة التي تستخدمها الشركات.

وحث الفريق المشرعين على تنظيم برامج السيارات ذاتية القيادة لمنع التحيز في أنظمة الكشف الخاصة بهم، قائلاً: "من الضروري أن يسن صناع السياسات قوانين وأنظمة تحمي حقوق جميع الأفراد وتعالج هذه المخاوف بشكل مناسب".

(وفقا لـ Insider)

[إعلان 2]
مصدر