África do Sul revisa política de IA após escândalo de fontes falsas.

O governo sul-africano acaba de criar um painel independente de especialistas para analisar a minuta da política nacional sobre inteligência artificial, após um escândalo envolvendo documentos com referências fictícias.

Este é um dos raros casos em que se suspeita que um documento regulatório de IA utilize conteúdo gerado por IA que não foi verificado.

A proposta, divulgada em abril para consulta pública, visa tornar a África do Sul líder em inovação em IA no continente.

No entanto, após a News24 descobrir inúmeras citações e referências inexistentes, o Departamento Sul-Africano de Comunicações Digitais e Tecnologia (DCDT) foi obrigado a retratar-se integralmente do documento.

O Ministro do DCDT, Solly Malatsi, reconheceu que ocorreu uma "falha grave" no processo de compilação dos documentos. Ele afirmou que auditorias internas anteriores não haviam detectado o problema e admitiu a falta de transparência no uso de IA para compilar os materiais de referência.

O governo sul-africano pretende finalizar a versão revisada até novembro de 2026 para aprovação do Gabinete, antes de disponibilizá-la para consulta pública em janeiro de 2027. O novo painel de revisão, composto por sete especialistas, tem a tarefa de examinar todos os documentos e remover ou substituir fontes imprecisas.

Jeanette Morwane, Diretora de Inovação Digital da DCDT, afirmou que o processo de revisão terá como foco garantir a transparência e a credibilidade acadêmica do texto. "O painel de especialistas analisará cada seção do conteúdo antes de submetê-lo ao Governo", disse ela.

O incidente também levou a medidas disciplinares internas. Dois funcionários envolvidos foram suspensos enquanto aguardam investigação. A diretora-geral da DCDT, Nonkqubela Jordan-Dyani, descreveu o incidente como “muito lamentável” e afirmou que a retirada da minuta era necessária para restaurar a credibilidade da agência.

O escândalo na África do Sul reflete o crescente desafio à medida que a IA começa a ser usada na formulação de políticas públicas. As ferramentas de geração de dados podem auxiliar na agregação mais rápida de informações, mas também correm o risco de gerar desinformação ou fontes fictícias se não forem devidamente verificadas por humanos.

Observadores acreditam que este incidente serve como um alerta precoce para muitos governos que implementam estratégias de IA em todo o mundo. À medida que a inteligência artificial se torna cada vez mais presente na governança, as exigências por transparência, verificação de dados e responsabilização provavelmente se tornarão cruciais.

Segundo a Reuters

Fonte: https://hanoimoi.vn/nam-phi-sua-chinh-sach-ai-sau-be-boi-nguon-gia-974314.html