Perusahaan audit terkemuka membayar harga karena membiarkan AI membuat laporan

Deloitte Australia harus mengembalikan uang kepada pemerintah Australia setelah laporan bertenaga AI ditemukan mengandung kesalahan serius.

Deloitte Australia harus mengembalikan sebagian dana kepada pemerintah Australia setelah laporan penilaiannya ditemukan mengandung kesalahan serius.

Penyebabnya dipastikan karena perusahaan membiarkan alat AI-nya, khususnya Azure OpenAI GPT-4o, secara otomatis membuat dan mengutip konten tanpa moderasi yang tepat.

Laporan asli bahkan memuat kutipan akademis dari orang yang tidak ada dan putusan palsu dari Pengadilan Federal.

Pakar kesejahteraan sosial Chris Rudge adalah orang pertama yang menemukan kesalahan tersebut dan mempublikasikannya.

Setelah ditemukan, Deloitte memperbarui laporan, menghapus lusinan kutipan yang salah dan menulis ulang seluruh daftar referensi.

Pemerintah Australia mengonfirmasi bahwa Deloitte telah mengakui kesalahannya dan setuju untuk mengembalikan uang tersebut, tetapi bersikeras bahwa hasil keseluruhan laporan tidak terpengaruh.

Para ahli mengatakan insiden tersebut merupakan demonstrasi nyata mengenai risiko ketika organisasi menyalahgunakan AI tanpa kendali mutu.

Deloitte belum memberikan tanggapan resmi, tetapi insiden tersebut telah menjadi pengingat berharga bahwa AI tidak dapat sepenuhnya menggantikan manusia dalam pekerjaan yang membutuhkan presisi mutlak.

Pembaca yang terhormat, silakan tonton lebih banyak video : Sampah AI - Masalah baru di jejaring sosial VTV24

Sumber: https://khoahocdoisong.vn/hang-kiem-toan-hang-dau-tra-gia-vi-de-ai-bia-thong-tin-bao-cao-post2149059390.html