Grande empresa de auditoria paga preço por deixar IA fabricar relatórios

A Deloitte Austrália deve reembolsar o governo australiano depois que um relatório baseado em IA foi descoberto contendo erros graves.

A Deloitte Austrália teve que reembolsar parcialmente o governo australiano depois que seu relatório de avaliação continha erros graves.

A causa foi determinada como sendo o fato de a empresa ter deixado sua ferramenta de IA, especificamente o Azure OpenAI GPT-4o, gerar e citar conteúdo automaticamente sem a devida moderação.

O relatório original continha até citações acadêmicas de pessoas inexistentes e uma decisão falsa do Tribunal Federal.

O especialista em bem-estar social Chris Rudge foi o primeiro a descobrir os erros e torná-los públicos.

Após ser descoberta, a Deloitte atualizou o relatório, removendo dezenas de citações incorretas e reescrevendo toda a lista de referências.

O governo australiano confirmou que a Deloitte admitiu seu erro e concordou em reembolsar o dinheiro, mas insistiu que os resultados gerais do relatório não foram afetados.

Especialistas dizem que o incidente é uma demonstração clara dos riscos quando as organizações abusam da IA ​​sem controle de qualidade.

A Deloitte ainda não respondeu oficialmente, mas o incidente se tornou um lembrete valioso de que a IA não pode substituir completamente os humanos em trabalhos que exigem precisão absoluta.

Caros leitores, assistam a mais vídeos : Lixo de IA - Novo problema nas redes sociais VTV24

Fonte: https://khoahocdoisong.vn/hang-kiem-toan-hang-dau-tra-gia-vi-de-ai-bia-thong-tin-bao-cao-post2149059390.html