Topprevisjonsfirma betaler prisen for å la AI lage rapporter

Deloitte Australia må refundere den australske regjeringen etter at en AI-drevet rapport viste seg å inneholde alvorlige feil.

Deloitte Australia har måttet delvis refundere den australske regjeringen etter at det ble funnet at vurderingsrapporten deres inneholdt alvorlige feil.

Årsaken ble fastslått å være at selskapet lot sitt AI-verktøy, nærmere bestemt Azure OpenAI GPT-4o, automatisk generere og sitere innhold uten skikkelig moderering.

Den opprinnelige rapporten inneholdt til og med akademiske sitater av ikke-eksisterende personer og en falsk kjennelse fra den føderale domstolen.

Sosialvelferdsekspert Chris Rudge var den første som oppdaget feilene og offentliggjorde dem.

Etter å ha blitt oppdaget, oppdaterte Deloitte rapporten, fjernet dusinvis av feilaktige sitater og omskrev hele referanselisten.

Den australske regjeringen bekreftet at Deloitte hadde innrømmet feilen sin og gått med på å refundere pengene, men insisterte på at rapportens samlede resultater ikke ble påvirket.

Eksperter sier at hendelsen er en klar demonstrasjon av risikoene når organisasjoner misbruker AI uten kvalitetskontroll.

Deloitte har ennå ikke offisielt svart, men hendelsen har blitt en verdifull påminnelse om at AI ikke kan erstatte mennesker fullstendig i jobber som krever absolutt presisjon.

Kjære lesere, se gjerne flere videoer : AI-søppel – Nytt problem på sosiale nettverk VTV24

Kilde: https://khoahocdoisong.vn/hang-kiem-toan-hang-dau-tra-gia-vi-de-ai-bia-thong-tin-bao-cao-post2149059390.html