人工知能 (AI) の爆発的な増加により、機械学習システムのトレーニングにおける偏りが現実世界での差別的行動につながるという明確な傾向が生まれました。
英国と中国の科学者グループによる最近の研究によると、多くの自動車メーカーが使用している自動運転車に搭載されている歩行者検知ソフトウェアは、対象が有色人種や子供である場合は効果が低く、交通に参加する際にこれらの人々がより大きな危険にさらされる可能性があることが示されています。
性別による精度の違いはわずかであったものの、研究者らは、AIシステムは肌の色が濃い歩行者の認識精度が低いことを発見した。
「多くの重要なサービスを受けられなかった少数派の人々は今、深刻な事故のリスクに直面している」と、研究チームの一員でキングス・カレッジ・ロンドンのコンピューター科学者、ジエ・チャン氏は述べた。
具体的には、このシステムは子供よりも大人を検出する可能性が 19.67% 高く、肌の色が濃い人を検出する可能性が 7.52% 低いと報告書は指摘している。
「全体として、この研究は現在の歩行者検知システムが直面している公平性の問題に光を当て、年齢や肌の色に関連するバイアスに対処することの重要性を浮き彫りにしている」と研究チームは論文に記している。「得られた知見は、将来、より公平で偏りのない自動運転システムへの道を開く可能性がある。」
研究チームのメンバーによると、彼らの報告書では、テスラなどの企業が自社の自動車に搭載しているソフトウェアそのものは使用されていない（これは企業秘密である）が、その代わりに、企業が使用する同様のオープンソースAIに基づいた研究が行われたという。
「政策立案者がすべての個人の権利を保護し、こうした懸念に適切に対処する法律や規制を制定することが不可欠だ」とチームは議員らに対し、自動運転車のソフトウェアを規制し、検知システムに偏りが生じないようにするよう求めた。
（インサイダーによると）
[広告2]
ソース
コメント (0)