Una importante firma de auditoría paga el precio de permitir que la IA fabrique informes

Deloitte Australia debe reembolsar al gobierno australiano luego de que se descubriera que un informe desarrollado con inteligencia artificial contenía errores graves.

Deloitte Australia tuvo que reembolsar parcialmente al gobierno australiano después de que se descubriera que su informe de evaluación contenía graves errores.

Se determinó que la causa fue que la empresa permitió que su herramienta de IA, específicamente Azure OpenAI GPT-4o, generara y citara contenido automáticamente sin la moderación adecuada.

El informe original incluso contenía citas académicas de personas inexistentes y una sentencia falsa del Tribunal Federal.

El experto en bienestar social Chris Rudge fue el primero en descubrir los errores y hacerlos públicos.

Tras ser descubierto, Deloitte actualizó el informe, eliminando docenas de citas incorrectas y reescribiendo la lista completa de referencias.

El gobierno australiano confirmó que Deloitte había admitido su error y accedido a reembolsar el dinero, pero insistió en que los resultados generales del informe no se vieron afectados.

Los expertos dicen que el incidente es una clara demostración de los riesgos que corren las organizaciones cuando abusan de la IA sin control de calidad.

Deloitte aún no ha respondido oficialmente, pero el incidente se ha convertido en un valioso recordatorio de que la IA no puede reemplazar completamente a los humanos en trabajos que requieren precisión absoluta.

Estimados lectores, por favor vean más videos : Basura de IA - Nuevo problema en las redes sociales VTV24

Fuente: https://khoahocdoisong.vn/hang-kiem-toan-hang-dau-tra-gia-vi-de-ai-bia-thong-tin-bao-cao-post2149059390.html