자율주행차의 AI 안전 센서는 유색인종과 어린이에게는 정확도가 낮습니다.

[광고_1]

인공지능(AI)의 폭발적인 발전은 분명한 추세를 보여주고 있다. 바로 기계 학습 시스템 훈련 과정에서의 편향이 현실 세계 에서의 차별적인 행동으로 이어진다는 것이다.

최근 영국과 중국 과학자 그룹이 발표한 연구에 따르면, 많은 자동차 제조업체에서 사용하고 있는 자율주행 차량에 탑재된 보행자 감지 소프트웨어가 유색인종이나 어린이를 감지할 때 효과가 떨어질 수 있으며, 이로 인해 이들이 교통사고에 더 큰 위험에 노출될 수 있다고 합니다.

자율주행 차량에 탑재된 인공지능은 유색인종과 어린이에게 효과가 떨어지는 경향이 있으며, 이는 심각한 사고로 이어질 가능성이 있습니다.

성별에 따른 정확도 차이는 미미했지만, 연구진은 인공지능 시스템이 피부색이 어두운 보행자를 인식하는 데 정확도가 떨어진다는 사실을 발견했습니다.

"많은 필수 서비스를 거부당해 온 소수 인종들이 이제 심각한 사고 위험에 직면하고 있습니다."라고 킹스 칼리지 런던의 컴퓨터 과학자이자 연구팀의 일원인 지에 장이 말했습니다.

구체적으로 보고서는 해당 시스템이 어린이보다 성인을 감지할 확률이 19.67% 더 높았고, 피부색이 어두운 사람을 감지할 확률은 7.52% 더 낮았다고 지적했습니다.

"전반적으로, 이번 연구는 현재 보행자 감지 시스템이 직면한 공정성 문제를 밝히고, 연령 및 피부색과 관련된 편견을 해결하는 것이 중요하다는 점을 강조합니다."라고 연구팀은 논문에서 밝혔습니다. "이번 연구를 통해 얻은 통찰력은 미래에 더욱 공정하고 편견 없는 자율 주행 시스템을 개발하는 데 도움이 될 수 있을 것입니다."

연구팀 구성원들에 따르면, 그들의 보고서는 테슬라와 같은 회사들이 차량에 설치하는 소프트웨어를 직접 사용하지는 않았는데, 이는 영업 비밀이기 때문이며, 대신 기업들이 사용하는 유사한 오픈 소스 AI를 기반으로 연구를 진행했다고 합니다.

"정책 입안자들이 모든 개인의 권리를 보호하고 이러한 우려 사항들을 적절히 해결하는 법률과 규정을 제정하는 것이 필수적입니다." 연구팀은 입법자들에게 자율주행차 소프트웨어의 감지 시스템에 편향이 생기는 것을 방지하기 위해 해당 소프트웨어를 규제할 것을 촉구했습니다.

(인사이더에 따르면)

[광고_2]
원천