חיישני בטיחות של בינה מלאכותית במכוניות אוטונומיות פחות מדויקים עבור אנשים צבעוניים וילדים

[מודעה_1]

התפוצצות הבינה המלאכותית (AI) הביאה איתה מגמה ברורה: הטיה באימון מערכות למידת מכונה מובילה להתנהגות מפלה בעולם האמיתי.

מחקר שנערך לאחרונה על ידי קבוצת מדענים בבריטניה ובסין מראה כי תוכנת זיהוי הולכי רגל המותקנת בכלי רכב אוטונומיים - אשר נמצאת בשימוש על ידי יצרני רכב רבים - עשויה להיות פחות יעילה כאשר הנושא הוא אנשים כהי עור או ילדים, מה שמוביל לכך שאנשים אלה נמצאים בסיכון גבוה יותר בעת השתתפות בתנועה.

בינה מלאכותית במכוניות אוטונומיות נוטה להניב ביצועים נמוכים יותר מאנשים כהי עור וילדים, מה שעלול להוביל לתאונות קשות.

למרות שהמגדר הראה רק הבדלים קטנים בדיוק, החוקרים מצאו שמערכת הבינה המלאכותית הייתה פחות מדויקת בזיהוי הולכי רגל עם גווני עור כהים יותר.

"אנשים בני מיעוטים שנמנעו מהם שירותים חשובים רבים עומדים כעת בפני סיכוני תאונות חמורים", אמר ג'יה ג'אנג, מדען מחשבים בקינגס קולג' לונדון וחבר בצוות המחקר.

באופן ספציפי, הדו"ח ציין כי למערכת הייתה סבירות גבוהה ב-19.67% לזהות מבוגרים מאשר ילדים, וסבירות נמוכה ב-7.52% לזהות אנשים עם גווני עור כהים יותר.

"בסך הכל, מחקר זה שופך אור על סוגיות ההגינות העומדות בפני מערכות זיהוי הולכי רגל עכשוויות, ומדגיש את החשיבות של התייחסות להטיות הקשורות לגיל ולעור", כתב הצוות במאמרו. "התובנות שהתקבלו עשויות לסלול את הדרך למערכות נהיגה אוטונומיות הוגנות ובלתי משוחדות יותר בעתיד."

לדברי חברי צוות המחקר, הדו"ח שלהם לא השתמש באותה תוכנה שחברות כמו טסלה מתקינות במכוניות שלהן, מכיוון שזהו סוד מסחרי, במקום זאת המחקר התבסס על בינה מלאכותית דומת בקוד פתוח בה משתמשים עסקים.

"חיוני שקובעי מדיניות יחוקקו חוקים ותקנות המגנים על זכויותיהם של כל הפרט ויטפלו כראוי בחששות אלה", קרא הצוות למחוקקים להסדיר תוכנות של מכוניות אוטונומיות כדי למנוע הטיה במערכות הזיהוי שלהם.

(על פי Insider)

[מודעה_2]
מָקוֹר

תגית: כַּסֶפֶת מכוניות אוטונומיות

תגובה (0)

הכי פופולרי

החדש ביותר

No data