Sensores de segurança de IA em carros autônomos são menos precisos para pessoas de cor e crianças

[anúncio_1]

A explosão da inteligência artificial (IA) trouxe uma tendência clara: o preconceito no treinamento de sistemas de aprendizado de máquina leva a comportamentos discriminatórios no mundo real.

Um estudo recente realizado por um grupo de cientistas no Reino Unido e na China mostra que o software de detecção de pedestres instalado em veículos autônomos — que está sendo usado por muitas montadoras — pode ser menos eficaz quando o assunto são pessoas de cor ou crianças, fazendo com que essas pessoas corram maior risco ao participar do trânsito.

A IA em carros autônomos tende a ter desempenho inferior ao de pessoas de cor e crianças, o que pode levar a acidentes graves.

Embora o gênero tenha apresentado apenas pequenas diferenças na precisão, os pesquisadores descobriram que o sistema de IA foi menos preciso no reconhecimento de pedestres com tons de pele mais escuros.

“Indivíduos minoritários aos quais foram negados muitos serviços importantes agora enfrentam sérios riscos de acidentes”, disse Jie Zhang, cientista da computação no King’s College London e membro da equipe de pesquisa.

Especificamente, o relatório observou que o sistema tinha 19,67% mais probabilidade de detectar adultos do que crianças e 7,52% menos probabilidade de detectar aqueles com tons de pele mais escuros.

“No geral, esta pesquisa lança luz sobre as questões de imparcialidade enfrentadas pelos atuais sistemas de detecção de pedestres, destacando a importância de abordar preconceitos relacionados à idade e à pele”, escreveu a equipe em seu artigo. “Os insights obtidos podem abrir caminho para sistemas de direção autônoma mais justos e imparciais no futuro.”

De acordo com membros da equipe de pesquisa, o relatório não usou o mesmo software que empresas como a Tesla instalam em seus carros, pois isso é um segredo comercial. Em vez disso, a pesquisa foi baseada em IAs de código aberto semelhantes usadas por empresas.

“É essencial que os formuladores de políticas promulguem leis e regulamentações que protejam os direitos de todos os indivíduos e abordem adequadamente essas preocupações”, a equipe pediu aos legisladores que regulem o software de carros autônomos para evitar distorções em seus sistemas de detecção.

(De acordo com o Insider)

[anúncio_2]
Fonte