A explosão da inteligência artificial (IA) trouxe uma tendência clara: o viés no treinamento de sistemas de aprendizado de máquina leva a comportamentos discriminatórios no mundo real.
Um estudo recente realizado por um grupo de cientistas do Reino Unido e da China mostra que o software de detecção de pedestres instalado em veículos autônomos — utilizado por muitas montadoras — pode ser menos eficaz quando o indivíduo em questão é uma pessoa negra ou uma criança, o que coloca esses grupos em maior risco ao atravessarem o trânsito.
Embora o gênero tenha apresentado apenas pequenas diferenças na precisão, os pesquisadores descobriram que o sistema de IA era menos preciso no reconhecimento de pedestres com tons de pele mais escuros.
“Indivíduos pertencentes a minorias, aos quais foram negados muitos serviços importantes, agora enfrentam sérios riscos de acidentes”, disse Jie Zhang, cientista da computação do King’s College London e membro da equipe de pesquisa.
Especificamente, o relatório observou que o sistema tinha 19,67% mais probabilidade de detectar adultos do que crianças e 7,52% menos probabilidade de detectar pessoas com tons de pele mais escuros.
“De modo geral, esta pesquisa lança luz sobre as questões de equidade enfrentadas pelos atuais sistemas de detecção de pedestres, destacando a importância de abordar os vieses relacionados à idade e à cor da pele”, escreveu a equipe em seu artigo. “Os conhecimentos adquiridos podem abrir caminho para sistemas de direção autônoma mais justos e imparciais no futuro.”
Segundo membros da equipe de pesquisa, o relatório não utilizou o software exato que empresas como a Tesla instalam em seus carros, pois isso é segredo comercial; em vez disso, a pesquisa foi baseada em IAs de código aberto semelhantes, utilizadas por empresas.
“É essencial que os legisladores promulguem leis e regulamentos que protejam os direitos de todos os indivíduos e abordem adequadamente essas preocupações”, afirmou a equipe, instando os parlamentares a regulamentarem o software de carros autônomos para evitar vieses em seus sistemas de detecção.
(Segundo o Insider)
Fonte
Comentário (0)