Pelajaran yang dipetik dalam menggunakan AI

(PLVN) - Insiden baru-baru ini di mana Komite Rakyat sebuah provinsi di utara mengeluarkan dokumen untuk memperbaiki pekerjaan konsultasi departemen khusus setelah menemukan serangkaian kesalahan serius dalam laporan yang diserahkan kepada Komite Rakyat Provinsi; diduga menggunakan alat daring dan kecerdasan buatan (AI); menjadi pelajaran bagi semua orang ketika menggunakan alat-alat tersebut.

Sebelumnya, laporan yang diserahkan oleh Departemen kepada Komite Rakyat Provinsi mengandung banyak kesalahan ejaan, kesalahan teknis, salah tafsir terhadap pokok bahasan, dan ketidakakuratan data mendasar. Hal ini mencakup kesalahan ejaan, penghilangan, dan distorsi kata: "mở dữ liệu" (data terbuka) menjadi "mở dữ li" (data terbuka li), "ươm tạo doanh nghiệp" (inkubasi bisnis) menjadi "xà tạo" (inkubasi), "cơ hội dan thách thức" (peluang dan tantangan) menjadi "cơ hội và sơ thức" (peluang dan pengetahuan awal), "cuộc vận động" (kampanye) menjadi "cuộc đua vận động" (perlombaan kampanye), "27 hội nghị" (27 konferensi) menjadi "27 hội viện" (27 parlemen)... Kesalahan-kesalahan mendasar ini muncul dengan frekuensi yang cukup tinggi, menunjukkan bahwa peninjauan dan verifikasi dokumen sebelum penandatanganan tidak dilakukan secara ketat.

Beberapa istilah teknis dalam laporan tersebut disalahgunakan atau diputarbalikkan secara parah, sehingga sepenuhnya mengubah sifat isi nasihat tersebut. Misalnya, frasa "memperkuat poros transportasi sabuk perbatasan" diubah menjadi "penguatan sabuk perbatasan"; "membangun pembibitan bibit" menjadi "membangun bibit pohon serupa"; "platform pertemuan daring" menjadi "platform pameran daring"; dan "ekosistem pendidikan " menjadi "sistem pendidikan sikap biologis".

Banyak aspek manajemen negara juga disalahartikan, sehingga menghambat pemahaman dan implementasi. Misalnya, pernyataan "mendeteksi, memverifikasi, dan menangani 94 kasus; memulai proses hukum dalam 51 kasus yang melibatkan 91 terdakwa" diubah menjadi "mendeteksi, memverifikasi, dan menangani 94 tugas; memulai 51 layanan dan 91 perangkat potensial," yang sepenuhnya mendistorsi informasi dan menimbulkan risiko kesalahpahaman yang signifikan dalam kepemimpinan dan manajemen.

Laporan tersebut juga mengandung kesalahan seperti salah eja nama-nama tugas ilmiah , program, dan topik penelitian; salah eja nama-nama peninggalan dan landmark sejarah dan budaya; dan bahkan mendistorsi nama-nama dokumen hukum, lembaga penerbit, dan konten yang dikutip, sehingga menjadikan laporan tersebut tidak sah secara hukum dan tidak dapat digunakan.

Banyak pendapat menyatakan bahwa "laporan" yang disebutkan di atas menunjukkan karakteristik penggunaan alat daring dan AI dalam penyusunan dokumen, tetapi tanpa dikendalikan, ditinjau, atau dievaluasi oleh staf profesional. Ini adalah fenomena yang sangat berbahaya, karena departemen khusus, sebelum menerbitkan laporan konsultatif, harus melalui beberapa "filter," mulai dari spesialis dan departemen fungsional hingga pimpinan. Namun, "filter" ini memiliki masalah, sehingga laporan yang ceroboh dan tidak bertanggung jawab seperti itu dapat lolos.

Insiden tersebut juga menunjukkan bahwa pengguna alat daring, AI, yang membuat "laporan" tersebut melanggar Pasal 2, Ayat 4 Undang-Undang tentang Kecerdasan Buatan, mengenai prinsip dasar dalam operasi AI, yang menyatakan: "AI melayani umat manusia, tidak menggantikan wewenang dan tanggung jawab manusia. AI memastikan pemeliharaan kendali manusia dan kemampuan untuk campur tangan dalam semua keputusan dan tindakan sistem AI." Dalam hal ini, tidak dapat dikesampingkan bahwa pejabat tersebut sepenuhnya menyerahkan pekerjaan pembuatan laporan kepada AI, yang menghasilkan "produk" yang disebutkan di atas.

Menyusul insiden tersebut, Ketua Komite Rakyat setempat meminta Direktur departemen terkait untuk meninjau dan mengklarifikasi penyebabnya, memperbaiki secara komprehensif pekerjaan konsultasi, dan memperketat proses penggunaan AI. Bagi semua orang, ini juga merupakan pelajaran serius tentang penggunaan alat digital dan AI; penting untuk diingat bahwa AI dalam banyak aktivitas hanya dapat berfungsi untuk mendukung manusia; AI harus diperiksa, dikendalikan, dan dipertanggungjawabkan oleh manusia.

Sumber: https://baophapluat.vn/bai-hoc-trong-su-dung-ai.html