Die explosionsartige Verbreitung künstlicher Intelligenz (KI) hat einen klaren Trend mit sich gebracht: Voreingenommenheit beim Training maschineller Lernsysteme führt zu diskriminierendem Verhalten in der realen Welt .
Eine aktuelle Studie einer Gruppe von Wissenschaftlern in Großbritannien und China zeigt, dass die in selbstfahrenden Fahrzeugen verbaute Fußgängererkennungssoftware – die von vielen Autoherstellern eingesetzt wird – weniger effektiv sein kann, wenn es sich bei den Probanden um farbige Menschen oder Kinder handelt. Dies führt dazu, dass diese Menschen bei der Teilnahme am Straßenverkehr einem größeren Risiko ausgesetzt sind.
Obwohl es nur geringe Unterschiede hinsichtlich der Genauigkeit zwischen den Geschlechtern gab, stellten die Forscher fest, dass das KI-System Fußgänger mit dunklerer Hautfarbe weniger genau erkannte.
„Angehörige von Minderheiten, denen viele wichtige Dienstleistungen vorenthalten wurden, sind nun einem ernsthaften Unfallrisiko ausgesetzt“, sagte Jie Zhang, Informatiker am King’s College London und Mitglied des Forschungsteams.
Konkret wurde in dem Bericht darauf hingewiesen, dass das System Erwachsene mit 19,67 % höherer Wahrscheinlichkeit als Kinder erkennt und Menschen mit dunklerer Hautfarbe mit 7,52 % geringerer Wahrscheinlichkeit erkennt.
„Insgesamt wirft diese Forschung Licht auf die Fairnessprobleme aktueller Fußgängererkennungssysteme und unterstreicht, wie wichtig es ist, alters- und hautbedingte Vorurteile zu berücksichtigen“, schrieb das Team in seinem Artikel. „Die gewonnenen Erkenntnisse könnten den Weg für fairere und unvoreingenommenere autonome Fahrsysteme in der Zukunft ebnen.“
Laut Angaben der Mitglieder des Forschungsteams wurde in ihrem Bericht nicht genau die Software verwendet, die Unternehmen wie Tesla in ihren Autos installieren, da es sich hierbei um ein Geschäftsgeheimnis handelt. Stattdessen stützte sich die Untersuchung auf ähnliche Open-Source-KIs, die von Unternehmen verwendet werden.
„Es ist von entscheidender Bedeutung, dass die politischen Entscheidungsträger Gesetze und Vorschriften erlassen, die die Rechte aller Menschen schützen und diesen Bedenken angemessen Rechnung tragen“, forderte das Team die Gesetzgeber auf, die Software für selbstfahrende Autos zu regulieren, um Voreingenommenheit in ihren Erkennungssystemen zu verhindern.
(Laut Insider)
[Anzeige_2]
Quelle
Kommentar (0)