UNESCO: ferramentas de IA prejudicam mulheres

Muitas das ferramentas de inteligência artificial (IA) mais populares do mundo são alimentadas por programas tendenciosos contra as mulheres, desenvolvidos pelas empresas OpenAI e Meta, de acordo com um novo estudo publicado pela Organização das Nações Unidas para a Educação , a Ciência e a Cultura (UNESCO) em 7 de março.

As maiores empresas na corrida da IA ​​estão usando enormes quantidades de dados da internet para treinar seus algoritmos, conhecidos como modelos de grande linguagem (LLMs). A UNESCO testou o algoritmo Llama 2 da Meta e os algoritmos GPT-2 e GPT-3.5 da OpenAI, usados ​​no popular aplicativo de bate-papo ChatGPT. Os testes revelaram que ambos apresentaram evidências claras de preconceito contra as mulheres.

Os resultados mostraram que os textos relacionados a nomes femininos gerados por essas ferramentas frequentemente continham palavras como “casa”, “família” ou “filhos”, enquanto os textos relacionados a nomes masculinos frequentemente continham palavras como “negócio”, “salário” ou “carreira”; os homens eram frequentemente descritos com empregos como professores, advogados, médicos; enquanto as mulheres eram frequentemente associadas a empregos como cozinhar, tarefas domésticas, etc.

DO CAO

Fonte: https://www.sggp.org.vn/unesco-cac-cong-cu-ai-dinh-kien-voi-nu-gioi-post729797.html