חיישני בטיחות של בינה מלאכותית במכוניות אוטונומיות פחות מדויקים עבור אנשים צבעוניים וילדים

[מודעה_1]

התפוצצות הבינה המלאכותית (AI) הביאה למגמה ברורה: הטיה באימון מערכות למידת מכונה מובילה להתנהגות מפלה בעולם האמיתי.

מחקר שנערך לאחרונה על ידי צוות מדענים בבריטניה ובסין מראה כי תוכנת זיהוי הולכי רגל המותקנת בכלי רכב אוטונומיים - הנמצאת בשימוש על ידי יצרניות רכב רבות - עשויה להיות פחות יעילה כאשר המטרה היא אנשים כהי עור או ילדים, מה שעלול לסכן אנשים אלה בתנועה.

בינה מלאכותית בכלי רכב אוטונומיים נוטה להיות פחות יעילה עם אנשים כהי עור וילדים, מה שעלול להוביל לתאונות קשות.

למרות שמגדר השפיע רק על הדיוק, חוקרים מצאו שמערכת הבינה המלאכותית הייתה פחות מדויקת בזיהוי הולכי רגל בעלי גווני עור כהים יותר.

"אנשים בקבוצות מיעוט, שכבר נמנעה מהם גישה לשירותים חיוניים רבים, עומדים כעת בפני סיכונים גדולים אף יותר לתאונות קשות", אמר ג'יה ג'אנג, מדען מחשבים בקינגס קולג' לונדון וחבר בצוות המחקר.

באופן ספציפי, הדו"ח ציין כי למערכת הייתה סבירות גבוהה ב-19.67% לזהות מבוגרים מאשר ילדים, וסבירות נמוכה ב-7.52% לזהות אנשים עם גווני עור כהים יותר.

"בסך הכל, מחקר זה שופך אור על סוגיות ההגינות העומדות בפני מערכות זיהוי הולכי רגל קיימות, ומדגיש את החשיבות של התייחסות להטיות הקשורות לגיל וגזע", נכתב בדו"ח של צוות המחקר. "התובנות שהתקבלו עשויות לסלול את הדרך למערכות נהיגה אוטונומיות הוגנות ובלתי מוטות יותר בעתיד."

לדברי חברי צוות המחקר, הדו"ח שלהם אינו משתמש בדיוק באותה תוכנה שחברות כמו טסלה מתקינות על כלי הרכב שלהן, שכן זהו סוד מסחרי; במקום זאת, המחקר מבוסס על בינה מלאכותית קוד פתוח דומה המשמשת עסקים.

"חיוני שקובעי מדיניות יחוקקו חוקים ותקנות כדי להגן על זכויותיהם של כל הפרט ויטפלו בדאגות אלו כראוי." קבוצת המחקר קראה למחוקקים להסדיר תוכנות של מכוניות אוטונומיות כדי למנוע הטיה במערכות הזיהוי שלהם.

(על פי Insider)

[מודעה_2]
מָקוֹר