Top accountantskantoor betaalt prijs voor het laten fabriceren van rapporten door AI

Deloitte Australië moet de Australische overheid terugbetalen nadat een op AI gebaseerd rapport ernstige fouten bevatte.

Deloitte Australië moest een deel van de schade aan de Australische overheid terugbetalen nadat bleek dat het beoordelingsrapport ernstige fouten bevatte.

De oorzaak bleek te zijn dat het bedrijf zijn AI-tool, specifiek Azure OpenAI GPT-4o, automatisch content liet genereren en citeren zonder de juiste moderatie.

Het originele rapport bevatte zelfs academische citaten van niet-bestaande personen en een valse uitspraak van de Federale Rechtbank.

Sociaal welzijnsdeskundige Chris Rudge was de eerste die de fouten ontdekte en openbaar maakte.

Nadat dit was ontdekt, heeft Deloitte het rapport bijgewerkt. Tientallen onjuiste citaten zijn verwijderd en de volledige lijst met referenties is herschreven.

De Australische overheid bevestigde dat Deloitte haar fout had toegegeven en akkoord was gegaan met het terugbetalen van het geld, maar bleef volhouden dat de algehele resultaten van het rapport niet waren beïnvloed.

Volgens deskundigen is het incident een duidelijk voorbeeld van de risico's die ontstaan ​​als organisaties AI misbruiken zonder kwaliteitscontrole.

Deloitte heeft nog niet officieel gereageerd, maar het incident is een waardevolle herinnering dat AI de mens niet volledig kan vervangen in banen die absolute precisie vereisen.

Beste lezers, bekijk meer video's : AI-afval - Nieuw probleem op sociale netwerken VTV24

Bron: https://khoahocdoisong.vn/hang-kiem-toan-hang-dau-tra-gia-vi-de-ai-bia-thong-tin-bao-cao-post2149059390.html