Największa firma audytorska płaci cenę za umożliwienie sztucznej inteligencji tworzenia raportów

Firma Deloitte Australia musi zwrócić pieniądze australijskiemu rządowi po tym, jak w raporcie sporządzonym przy użyciu sztucznej inteligencji odkryto poważne błędy.

Firma Deloitte Australia musiała częściowo zwrócić australijskiemu rządowi pieniądze po tym, jak w jej raporcie oceniającym wykryto poważne błędy.

Przyczyną było to, że firma pozwoliła swojemu narzędziu AI, a konkretnie Azure OpenAI GPT-4o, na automatyczne generowanie i cytowanie treści bez odpowiedniej moderacji.

W oryginalnym raporcie znajdowały się nawet cytaty naukowe nieistniejących osób i sfałszowane orzeczenie Sądu Federalnego.

Pierwszym, który odkrył błędy i upublicznił je, był ekspert ds. opieki społecznej Chris Rudge.

Po odkryciu nieprawidłowości Deloitte zaktualizował raport, usuwając dziesiątki niepoprawnych cytatów i przepisując całą listę odniesień.

Rząd Australii potwierdził, że Deloitte przyznał się do błędu i zgodził się zwrócić pieniądze, ale zapewnił, że ogólne wyniki raportu nie uległy zmianie.

Eksperci twierdzą, że incydent ten wyraźnie pokazuje ryzyko, jakie niesie ze sobą nadużywanie sztucznej inteligencji przez organizacje bez kontroli jakości.

Deloitte nie odpowiedziało jeszcze oficjalnie, ale incydent ten stał się cennym przypomnieniem, że sztuczna inteligencja nie jest w stanie całkowicie zastąpić ludzi w zadaniach wymagających absolutnej precyzji.

Drodzy czytelnicy, obejrzyjcie więcej filmów : Sztuczna inteligencja - nowy problem w mediach społecznościowych VTV24

Source: https://khoahocdoisong.vn/hang-kiem-toan-hang-dau-tra-gia-vi-de-ai-bia-thong-tin-bao-cao-post2149059390.html