Delegasi Ca Mau: Perlu “kerangka hukum terbuka” namun kendalikan risiko secara ketat saat mengesahkan UU Kecerdasan Buatan

Selama sesi diskusi pagi pada tanggal 21 November tentang Rancangan Undang-Undang tentang Kecerdasan Buatan (AI), para deputi Majelis Nasional dari Delegasi Majelis Nasional provinsi Ca Mau mengemukakan banyak pendapat penting terkait kerangka tata kelola AI, pengendalian risiko teknis, kualitas data, dan mekanisme kebijakan untuk mempromosikan investasi bisnis dalam AI.

Delegasi Nguyen Duy Thanh: Kerangka hukum terlalu lambat - 06 prinsip dasar diperlukan untuk melindungi pengguna

Delegasi Nguyen Duy Thanh menyatakan urgensi pemberlakuan undang-undang; mengusulkan enam prinsip tata kelola AI; dan secara tegas melarang AI menciptakan berita dan konten palsu yang mengganggu masyarakat.

Menurut delegasi Nguyen Duy Thanh, anggota Komite Ekonomi Majelis Nasional dan Wakil Ketua Asosiasi Bisnis Provinsi Ca Mau, pengesahan Undang-Undang Kecerdasan Buatan merupakan persyaratan yang tidak dapat ditunda lagi, karena teknologi kecerdasan buatan telah merambah setiap bidang, mulai dari produksi, transportasi, keuangan, hingga manajemen publik. Namun, Vietnam masih menerapkan regulasi dengan standar teknis yang terfragmentasi, sehingga belum memiliki kerangka hukum yang terpadu.

Delegasi Nguyen Duy Thanh mengusulkan untuk mengembangkan enam prinsip tata kelola AI untuk mencegah sistem AI menyebabkan kerugian: Transparansi; non-diskriminasi; menghormati privasi; akuntabilitas; memastikan keselamatan - mengendalikan risiko; melindungi anak-anak dari konten yang dihasilkan AI.

Delegasi Nguyen Duy Thanh mengatakan bahwa AI harus dilarang keras digunakan untuk membuat berita palsu, terutama untuk membuat gambar pemimpin, lembaga negara, atau untuk membuat konten yang memicu kerusuhan. Ini akan menjadi "penghalang hukum" yang diperlukan terhadap kecepatan penyebaran dan tingkat pengaruh informasi yang dihasilkan oleh AI.

Delegasi Dinh Ngoc Minh: "Tanpa kontrol kode sumber, AI bisa menjadi kontraproduktif"

Delegasi Dinh Ngoc Minh mengusulkan pengendalian kode sumber AI; Badan-badan negara memerlukan hak untuk "mematikan AI" ketika terjadi insiden; dan memperingatkan risiko ketika AI beroperasi di luar kendali.

Delegasi Dinh Ngoc Minh, anggota Komite Ekonomi dan Keuangan Majelis Nasional, memperingatkan bahwa banyak negara telah mencatat kasus-kasus robot atau sistem otomatis yang menyebabkan kecelakaan, bahkan bereaksi terhadap manusia. Kisah-kisah ini bukan lagi fiksi ilmiah , melainkan benar-benar terjadi dalam kehidupan modern.

Delegasi Dinh Ngoc Minh mengatakan bahwa Vietnam perlu memberikan perhatian khusus pada pengendalian kode sumber untuk sistem AI yang penting. Dalam beberapa kasus, Negara harus memiliki akses atau memegang kode sumber tersebut, serupa dengan mekanisme "tombol berhenti darurat".

“Jika kode sumbernya tidak dikontrol, AI dapat menjadi kontraproduktif dan menyebabkan kerusakan besar,” tegas delegasi Dinh Ngoc Minh; pada saat yang sama, ia mengusulkan untuk mendefinisikan secara jelas tanggung jawab organisasi yang mengembangkan dan mengoperasikan AI.

Delegasi Tran Thi Hoa Ry: Hukum harus jelas dan koheren - bukan "kerangka hukum umum"

Delegasi Tran Thi Hoa Ry berbicara dalam diskusi tersebut.

Delegasi Tran Thi Hoa Ry, Wakil Ketua Dewan Etnis Majelis Nasional, menilai rancangan undang-undang tersebut disusun secara rumit tetapi masih ada beberapa hal yang perlu diperbaiki lebih lanjut.

Undang-undang yang berorientasi pada kerangka kerja memang tepat, tetapi harus "dirumuskan dengan jelas": Delegasi Tran Thi Hoa Ry mengatakan bahwa beberapa ketentuan umum yang bersifat deskriptif tidak cukup untuk memandu implementasi. Undang-undang tersebut harus secara jelas mendefinisikan prinsip, batasan, dan sanksi untuk menghindari masalah di masa mendatang.

Meninjau struktur undang-undang: Delegasi Tran Thi Hoa Ry mengusulkan untuk mengubah sejumlah pasal yang saat ini ditugaskan kepada Pemerintah untuk mengatur terlalu banyak konten, yang menyebabkan tumpang tindih dan kesulitan dalam penerapan.

Kualitas data masukan menentukan efektivitas AI: Delegasi Tran Thi Hoa Ry sangat memperhatikan keakuratan, kelengkapan, dan transparansi data, karena jika datanya salah, AI akan menghasilkan hasil yang salah.

Delegasi Tran Thi Hoa Ry meminta klarifikasi mengenai daftar data yang akan dimasukkan dalam basis data AI nasional; proses pemantauan entri data; data tambahan di beberapa sektor seperti energi; dan penjelasan mengapa data mengenai prosedur administratif - yang telah diterapkan pada AI - belum dimasukkan dalam draf.

Menambahkan larangan untuk menghindari risiko yang tidak dapat diterima: Delegasi Tran Thi Hoa Ry menyarankan untuk menentukan perilaku yang dilarang, alih-alih hanya mencantumkan jenis risiko secara umum.

Bisnis harus memiliki “motivasi nyata” untuk berinvestasi dalam AI: Delegasi Tran Thi Hoa Ry mengatakan bahwa untuk menarik bisnis ke bidang yang mahal seperti AI, undang-undang perlu memiliki mekanisme yang lebih kuat, seperti: Mekanisme pembagian keuntungan; insentif pajak; model kemitraan publik-swasta khusus untuk AI.

Strategi AI nasional tidak boleh diperbarui…setiap 3 tahun: “Dengan kecepatan perubahan saat ini setiap minggu, strategi AI perlu disesuaikan dengan lebih fleksibel” - usul delegasi Tran Thi Hoa Ry, daripada menunggu 2-3 tahun untuk memperbarui.

Persyaratan terpadu “terbuka dan ketat”

Pendapat delegasi Majelis Nasional dari Delegasi Majelis Nasional Provinsi Ca Mau semuanya bertujuan pada sasaran membangun kerangka hukum yang cukup terbuka untuk mendorong penelitian dan inovasi; tetapi cukup ketat untuk mengelola risiko, terutama risiko terhadap privasi, keamanan jaringan, dan keselamatan sosial.

Dalam konteks AI yang berkembang dari hari ke hari, proposal-proposal ini berkontribusi dalam membantu rancangan undang-undang tersebut mendekati standar internasional; sekaligus, sesuai dengan kapasitas manajemen teknologi Vietnam saat ini.

Sumber: https://www.camau.gov.vn/thoi-su-chinh-tri/dai-bieu-ca-mau-can-khung-phap-ly-mo-nhung-kiem-soat-chat-rui-ro-khi-ban-hanh-luat-tri-tue-nhan--291345