Die KI-Sicherheitssensoren in selbstfahrenden Autos sind für farbige Menschen und Kinder weniger genau.

Die rasante Entwicklung der künstlichen Intelligenz (KI) hat einen klaren Trend hervorgebracht: Verzerrungen beim Training von Systemen für maschinelles Lernen führen zu diskriminierendem Verhalten in der realen Welt .

Eine aktuelle Studie einer Gruppe von Wissenschaftlern in Großbritannien und China zeigt, dass die in selbstfahrenden Fahrzeugen verbaute Fußgängererkennungssoftware – die von vielen Autoherstellern eingesetzt wird – möglicherweise weniger effektiv ist, wenn es sich bei den Personen um farbige Menschen oder Kinder handelt, was dazu führt, dass diese Menschen bei der Teilnahme am Straßenverkehr einem größeren Risiko ausgesetzt sind.

Die KI in selbstfahrenden Autos zeigt tendenziell schlechtere Leistungen bei farbigen Menschen und Kindern, was zu schweren Unfällen führen kann.

Obwohl es nur geringe Unterschiede in der Genauigkeit zwischen den Geschlechtern gab, stellten die Forscher fest, dass das KI-System bei der Erkennung von Fußgängern mit dunklerem Hautton weniger genau war.

„Angehörige von Minderheiten, denen viele wichtige Dienstleistungen verwehrt wurden, sind nun ernsthaften Unfallrisiken ausgesetzt“, sagte Jie Zhang, Informatikerin am King’s College London und Mitglied des Forschungsteams.

Im Bericht wurde insbesondere darauf hingewiesen, dass das System Erwachsene mit 19,67 % höherer Wahrscheinlichkeit erkannte als Kinder und Personen mit dunklerem Hautton mit 7,52 % geringerer Wahrscheinlichkeit.

„Diese Studie beleuchtet die Probleme der Fairness aktueller Fußgängererkennungssysteme und unterstreicht die Bedeutung der Berücksichtigung alters- und hautfarbenbedingter Verzerrungen“, so das Forschungsteam in seiner Veröffentlichung. „Die gewonnenen Erkenntnisse könnten den Weg für fairere und unvoreingenommene autonome Fahrsysteme in der Zukunft ebnen.“

Laut Angaben von Mitgliedern des Forschungsteams wurde für ihren Bericht nicht die exakte Software verwendet, die Unternehmen wie Tesla in ihren Autos installieren, da es sich hierbei um ein Geschäftsgeheimnis handelt. Stattdessen basierte die Forschung auf ähnlichen Open-Source-KIs, die von Unternehmen eingesetzt werden.

„Es ist unerlässlich, dass die politischen Entscheidungsträger Gesetze und Verordnungen erlassen, die die Rechte aller Menschen schützen und diesen Bedenken angemessen Rechnung tragen“, forderte das Team die Gesetzgeber auf, die Software für selbstfahrende Autos zu regulieren, um Verzerrungen in ihren Erkennungssystemen zu verhindern.

(Laut Insider)

Quelle: https://vietnamnet.vn/cam-bien-an-toan-ai-tren-xe-tu-hanh-kem-chinh-xac-voi-nguoi-da-mau-va-tre-em-2182710.html