Menyelesaikan kerangka hukum untuk AI

Kecerdasan buatan (AI) menjadi teknologi mutakhir Revolusi Industri 4.0, membuka banyak peluang besar bagi pembangunan sosial-ekonomi. Namun, AI juga menimbulkan banyak tantangan ketika peraturan perundang-undangan yang ada saat ini belum memadai untuk mengatur bidang ini.

Terkait AI, Majelis Nasional telah menerbitkan Undang-Undang Industri Teknologi Digital , yang memuat bab yang mengatur AI. Ini merupakan dasar hukum awal bagi pengembangan dan penerapan AI. Namun, peraturan ini belum membentuk koridor hukum yang komprehensif dan cukup terbuka untuk memfasilitasi penelitian, pengembangan, penerapan, dan pemanfaatan AI, serta ekosistem AI yang komprehensif.

Selain itu, kita kekurangan mekanisme untuk mengklasifikasikan dan mengendalikan risiko sistem AI; mekanisme untuk memeriksa, memberi lisensi, dan memantau sistem AI, terutama sistem AI berisiko tinggi; dan kurangnya mekanisme serta kebijakan untuk mengembangkan dan menarik sumber daya manusia AI berkualitas tinggi. Meskipun Resolusi No. 57-NQ/TW dengan jelas menyatakan perlunya "menjadikan data sebagai alat produksi utama" dan "mengembangkan ekonomi data dan pasar data", pengumpulan, pemrosesan, pembagian, dan penggunaan data untuk pelatihan model AI saat ini menghadapi banyak kesulitan. Koneksi dan pembagian data antara basis data nasional dan basis data industri masih lambat dan belum memenuhi persyaratan untuk mengembangkan sistem AI skala besar.

Perlu disebutkan bahwa kita tidak memiliki celah tanggung jawab hukum ketika AI menyebabkan kerusakan. Celah hukum ini merupakan salah satu tantangan terbesar dalam menangani konsekuensi yang disebabkan oleh AI. Pertanyaannya adalah, ketika sistem AI menyebabkan kerusakan seperti: mobil tanpa pengemudi yang menyebabkan kecelakaan, perangkat lunak diagnostik medis yang memberikan hasil yang salah... lalu siapa yang akan bertanggung jawab? Apakah pengembang, produsen, pengguna, atau sistem AI itu sendiri? Ketika kita tidak memiliki peraturan khusus tentang tanggung jawab, hal ini akan menjadi risiko besar bagi konsumen dan bisnis dalam penggunaan AI.

Tak berhenti di situ, dengan perkembangan AI yang "unggul", muncul pula kekhawatiran tentang risiko keamanan non-tradisional. Teknologi deepfake disalahgunakan untuk menciptakan informasi palsu, mencemarkan nama baik organisasi dan individu, serta menciptakan berbagai bentuk penipuan. Jika situasi ini tidak dikendalikan oleh kerangka hukum yang cukup ketat dengan sanksi yang cukup kuat, hal ini akan menyebabkan ketidakstabilan sosial.

Demi mewujudkan visi Partai dan Negara dalam menjadikan AI sebagai ujung tombak dan terobosan untuk meningkatkan kapasitas nasional di era digital, Pemerintah sedang menyusun Rancangan Undang-Undang Kecerdasan Buatan dengan prinsip yang konsisten: Undang-Undang ini menempatkan manusia sebagai pusat, dengan prinsip utama bahwa AI diciptakan untuk melayani manusia, bukan untuk menggantikan manusia, dan manusia mengawasi AI dalam pengambilan keputusan penting; AI harus transparan, bertanggung jawab, dan aman. Undang-Undang Kecerdasan Buatan mengelola sistem AI sesuai tingkat risikonya, mendorong pengembangan dan otonomi AI dalam negeri, serta menjadikan AI sebagai penggerak pertumbuhan yang cepat dan berkelanjutan.

Untuk memastikan peningkatan efisiensi manajemen dan melindungi hak-hak pengguna, rancangan Undang-Undang ini menetapkan tanggung jawab untuk mengelola dan menangani insiden AI. Oleh karena itu, organisasi dan individu yang terlibat dalam pengembangan, penyediaan, penerapan, dan penggunaan sistem AI bertanggung jawab untuk memastikan keselamatan, keamanan, dan keandalan selama pengoperasian sistem; secara proaktif mendeteksi, mencegah, dan segera menyelesaikan insiden yang dapat membahayakan manusia, properti, data, atau ketertiban sosial.

Ketika terjadi insiden teknis, hasil yang salah, atau perilaku tak terduga pada sistem AI, pengembang dan penyedia wajib segera menerapkan langkah-langkah teknis untuk memperbaiki, menangguhkan, atau mencabut sistem yang berpotensi membahayakan; memberi tahu dan berkoordinasi dengan badan pengelola negara yang berwenang untuk menyelidiki dan menangani insiden tersebut. Pihak pengembang dan pengguna wajib mencatat dan segera memberi tahu penyedia tentang insiden tersebut serta berkoordinasi dengan pihak terkait dalam proses perbaikannya, dan tidak boleh melakukan intervensi atau modifikasi sistem secara sewenang-wenang tanpa izin. Selain itu, rancangan undang-undang ini juga menetapkan kewajiban penyedia dan penyedia untuk sistem AI berisiko tinggi...

Pengesahan Undang-Undang Kecerdasan Buatan di Vietnam sejak dini akan menciptakan terobosan bagi AI, menciptakan lingkungan hukum yang mendukung untuk mendorong inovasi, meningkatkan daya saing nasional, dan menegaskan posisi suatu negara dengan kapasitas untuk menjadi otonom dalam teknologi.

Sumber: https://daibieunhandan.vn/hoan-thien-khung-kho-phap-ly-cho-ai-10390839.html