Přední auditorská firma platí cenu za to, že nechává umělou inteligenci falšovat zprávy

Společnost Deloitte Australia musí australské vládě vrátit peníze poté, co zpráva vytvořená umělou inteligencí obsahovala závažné chyby.

Společnost Deloitte Australia musela australské vládě částečně vrátit peníze poté, co její hodnotící zpráva obsahovala závažné chyby.

Příčinou bylo zjištěno, že společnost nechala svůj nástroj umělé inteligence, konkrétně Azure OpenAI GPT-4o, automaticky generovat a citovat obsah bez řádné moderace.

Původní zpráva dokonce obsahovala akademické citace neexistujících osob a falešné rozhodnutí Federálního soudu.

Expert na sociální zabezpečení Chris Rudge byl první, kdo chyby objevil a zveřejnil.

Poté, co byla společnost Deloitte odhalena, aktualizovala zprávu, odstranila desítky nesprávných citací a přepsala celý seznam referencí.

Australská vláda potvrdila, že Deloitte uznala svou chybu a souhlasila s vrácením peněz, ale trvala na tom, že celkové výsledky zprávy tím nebyly ovlivněny.

Odborníci tvrdí, že incident je jasnou ukázkou rizik, která hrozí, když organizace zneužívají umělou inteligenci bez kontroly kvality.

Společnost Deloitte se zatím oficiálně neozvala, ale incident se stal cennou připomínkou toho, že umělá inteligence nemůže zcela nahradit lidi v pracovních místech, která vyžadují absolutní přesnost.

Vážení čtenáři, prosím, podívejte se na další videa : Odpadky z umělé inteligence - Nový problém na sociálních sítích VTV24

Zdroj: https://khoahocdoisong.vn/hang-kiem-toan-hang-dau-tra-gia-vi-de-ai-bia-thong-tin-bao-cao-post2149059390.html