Efter att Deloitte tvingats utfärda en rapport på 440 000 dollar till den australiska regeringen på grund av ett allvarligt fel från artificiell intelligens (AI), uttalade sig konkurrenter i "Big 4"-gruppen, inklusive EY, KPMG, PwC och Boston Consulting Group (BCG), snabbt och bekräftade att de har strikta kontrollprocesser för att undvika liknande fel.

Deloitte står nu inför intensiv press efter att den ursprungliga rapporten innehöll tre fiktiva referenser och ett påhittat citat från ett federalt domstolsbeslut. Den reviderade versionen tar bort mer än ett dussin felaktiga citat och korrigerar bibliografin, även om rekommendationerna förblir desamma.

Fallet har väckt internationell uppmärksamhet och blivit ett typiskt exempel på ”hallucinationer” – när AI ”fabricerar” information som om den vore verklig. Den allmänna opinionen och experter kräver att premiärminister Anthony Albaneses regering tvingar konsulter att avslöja när de använder AI i statliga kontrakt.

De fyra stora kämpar för att bevisa att de "använder AI ansvarsfullt"

EY insisterar på att alla AI-genererade resultat måste granskas noggrant av anställda innan de används. KPMG säger att de har ett "AI Trust Framework" och ett offentligt "AI-register" med verktyg som de använder i sina tjänster, inklusive med myndighetskunder.

BCG betonade att alla konsultprodukter genomgår "noggrann ledarskapsgranskning", medan PwC betonade att de följer principen "människor i loopen" – människor är alltid ytterst ansvariga för produkter som involverar AI.

Deloitte och McKinsey, två företag som ofta skryter om sina AI-förmågor, avböjde att kommentera. Deloitte har gått med på att ersätta en del av kostnaderna till det australiska departementet för sysselsättning och industriella relationer.

deloitte afr
Deloitte inblandat i en skandal gällande AI som "fabricerade information" när de skrev rapporter. Foto: AFR

Vid en utfrågning i senaten betonade Gordon de Brouwer, chef för den australiska offentliga sektorn: ”AI är inte ansvarig för ditt arbete. Du är ansvarig.”

De grönas senator Barbara Pocock uppmanade regeringen att tvinga entreprenörer att offentligt redovisa sin användning av AI och verifiera allt AI-genererat innehåll. ”Detta är inte bara artificiell försummelse, det är avsiktlig försummelse… Deloittes arbete håller inte måttet på en förstaårsexamen på universitetet… Om entreprenörer som anlitas för att utföra statligt arbete ska fortsätta att outsourca AI-arbete måste det göras kontroller. Det är inte för mycket begärt”, sa hon.

Fru Pocock har lagt fram lagstiftning som förbjuder entreprenörer som befinns ha uppfört sig oetiskt från statliga kontrakt i fem år och krävt full återbetalning från Deloitte.

AI stöder, ersätter inte, människor

Mindre konsultföretag var också snabba med att lugna kunderna. David Gumley, VD för ADAPTOVATE, sa att de använde AI för att förbättra effektiviteten, men att det aldrig skulle ersätta mänsklig expertis.

En annan konsult, Lisa Carlin – som driver enmansföretaget The Turbochargers – sa att konsultföretag behöver ha en offentlig policy för användningen av AI, som förklarar hur tekniken tillämpas i deras arbete, men inte nödvändigtvis avslöjar detaljer om den teknik som används.

”AI är nu en del av vanliga affärsverktyg, som Excel, men företaget har fortfarande fullt ansvar för att hantera risker”, sa Carlin. ”Transparens bör finnas på policynivå, inte i varje rapport, eftersom det kunderna behöver är förtroende för att företaget har starka kontroller, inte en varningsrad på varje sida.”

Carlin ger företagskunder råd om AI-strategi och implementering, och hon betonar att varje detalj i en rapport, oavsett hur den skapades, bör granskas noggrant innan den skickas till en kund.

”Företag behöver ha sina egna kvalitetssäkringsprocesser för AI och en tydlig riskbedömning”, tillade hon. ”Det finns ingen ursäkt för ’AI-genererat’. Konsulter måste vara ansvariga för sitt arbete, precis som de skulle vara för en praktikant.”

(Enligt AFR)

Källa: https://vietnamnet.vn/4-ong-lon-kiem-toan-len-tieng-sau-su-co-ai-nghiem-trong-tai-deloitte-2451266.html