Un cabinet d'audit de premier plan paie le prix fort pour avoir laissé l'IA fabriquer des rapports

Deloitte Australie doit rembourser le gouvernement australien après qu'un rapport alimenté par l'IA s'est avéré contenir de graves erreurs.

Deloitte Australie a dû rembourser partiellement le gouvernement australien après que son rapport d'évaluation s'est avéré contenir de graves erreurs.

La cause a été déterminée comme étant que l'entreprise a laissé son outil d'IA, en particulier Azure OpenAI GPT-4o, générer et citer automatiquement du contenu sans modération appropriée.

Le rapport original contenait même des citations universitaires de personnes inexistantes et une fausse décision de la Cour fédérale.

L’expert en protection sociale Chris Rudge a été le premier à découvrir les erreurs et à les rendre publiques.

Après avoir été découvert, Deloitte a mis à jour le rapport, supprimant des dizaines de citations incorrectes et réécrivant la liste complète des références.

Le gouvernement australien a confirmé que Deloitte avait admis son erreur et accepté de rembourser l'argent, mais a insisté sur le fait que les résultats globaux du rapport n'étaient pas affectés.

Les experts affirment que cet incident démontre clairement les risques que courent les organisations lorsqu’elles abusent de l’IA sans contrôle qualité.

Deloitte n’a pas encore répondu officiellement, mais l’incident est devenu un rappel précieux que l’IA ne peut pas remplacer complètement les humains dans les emplois qui nécessitent une précision absolue.

Chers lecteurs, regardez plus de vidéos : AI garbage - Nouveau problème sur les réseaux sociaux VTV24

Source : https://khoahocdoisong.vn/hang-kiem-toan-hang-dau-tra-gia-vi-de-ai-bia-thong-tin-bao-cao-post2149059390.html