Poté, co musela společnost Deloitte kvůli závažné chybě umělé inteligence (AI) znovu vydat australské vládě zprávu ve výši 440 000 dolarů, konkurenti ve skupině „Velké čtyřky“, včetně EY, KPMG, PwC a Boston Consulting Group (BCG), rychle promluvili a potvrdili, že mají přísné kontrolní procesy, aby se podobným chybám vyhnuli.

Společnost Deloitte nyní čelí silnému tlaku poté, co původní zpráva obsahovala tři fiktivní odkazy a vykonstruovanou citaci z rozhodnutí federálního soudu. Revidovaná verze odstraňuje více než tucet chybných citací a opravuje bibliografii, ačkoli doporučení zůstávají stejná.

Případ přitáhl mezinárodní pozornost a stal se typickým příkladem „halucinace“ – kdy si umělá inteligence „vymýšlí“ informace, jako by byly skutečné. Veřejné mínění a odborníci požadují, aby vláda premiéra Anthonyho Albaneseho donutila konzultanty zveřejňovat informace o tom, kdy používají umělou inteligenci ve státních zakázkách.

Velká čtyřka závodí, aby dokázala, že „používají umělou inteligenci zodpovědně“

Společnost EY trvá na tom, že všechny výsledky generované umělou inteligencí musí být před použitím důkladně zkontrolovány zaměstnanci. KPMG uvádí, že má „rámec důvěryhodnosti umělé inteligence“ a veřejný „registr umělé inteligence“ nástrojů, které používá ve svých službách, a to i pro vládní klienty.

Společnost BCG zdůraznila, že všechny poradenské produkty procházejí „přísným prověřováním vedení“, zatímco PwC zdůraznila, že se drží principu „lidé v obraze“ – za produkty zahrnující umělou inteligenci jsou vždy v konečném důsledku zodpovědní lidé.

Společnosti Deloitte a McKinsey, které se často chlubí svými schopnostmi v oblasti umělé inteligence, se odmítly vyjádřit. Deloitte souhlasil s tím, že část nákladů uhradí australskému ministerstvu práce a průmyslových vztahů.

Deloitte v Africe
Společnost Deloitte se ocitla ve skandálu kvůli „falšování informací“ umělou inteligencí při psaní zpráv. Foto: AFR

Na slyšení v Senátu Gordon de Brouwer, šéf australské veřejné služby, zdůraznil: „Umělá inteligence není zodpovědná za vaši práci. Vy jste zodpovědní.“

Senátorka za Stranu zelených Barbara Pococková vyzvala vládu, aby donutila dodavatele veřejně zveřejňovat informace o používání umělé inteligence a ověřovat veškerý obsah generovaný umělou inteligencí. „Toto není jen umělá nedbalost, je to úmyslná nedbalost… Práce společnosti Deloitte neodpovídá standardům zkoušky pro první ročník univerzity… Pokud budou dodavatelé najatí pro vládní práce i nadále zadávat práci s umělou inteligencí externím dodavatelům, je třeba provádět kontroly. To není příliš mnoho,“ řekla.

Paní Pococková předložila legislativu, která by na pět let zakázala uzavírat vládní zakázky dodavatelům, u nichž bylo zjištěno neetické chování, a požadovala od společnosti Deloitte plné vrácení peněz.

Umělá inteligence lidi podporuje, nikoliv nahrazuje

Menší konzultační firmy také rychle ujistily klienty. David Gumley, generální ředitel společnosti ADAPTOVATE, uvedl, že umělou inteligenci používají ke zvýšení efektivity, ale nikdy nenahradí lidské znalosti.

Další konzultantka, Lisa Carlinová – která vede jednočlennou firmu The Turbochargers – uvedla, že konzultační firmy musí mít veřejnou politiku týkající se používání umělé inteligence, která by vysvětlovala, jak tuto technologii v jejich práci uplatňují, ale ne nutně by zveřejňovala podrobnosti o použité technologii.

„Umělá inteligence je nyní součástí standardních obchodních nástrojů, jako je Excel, ale společnost stále nese plnou odpovědnost za řízení rizik,“ řekl Carlin. „Transparentnost by měla být na úrovni politik, nikoli v každé zprávě, protože zákazníci potřebují jistotu, že společnost má silné kontroly, a ne varovný řádek na každé stránce.“

Carlin radí firemním klientům v oblasti strategie a implementace umělé inteligence a zdůrazňuje, že každý detail ve zprávě, bez ohledu na to, jak byl vytvořen, by měl být před odesláním klientovi pečlivě prověřen.

„Společnosti potřebují mít vlastní procesy zajišťování kvality pro umělou inteligenci a jasné posouzení rizik,“ dodala. „Neexistuje žádná omluva pro „vytvořené umělou inteligencí“. Konzultanti musí být za svou práci zodpovědní, stejně jako by byli zodpovědní za stážisty.“

(Podle AFR)

Zdroj: https://vietnamnet.vn/4-ong-lon-kiem-toan-len-tieng-sau-su-co-ai-nghiem-trong-tai-deloitte-2451266.html