Mengusulkan prinsip-prinsip untuk manajemen, pengembangan dan penggunaan kecerdasan buatan

Melanjutkan Sidang ke-38, pada sore hari tanggal 8 Oktober, di bawah arahan Wakil Ketua Majelis Nasional Nguyen Duc Hai, Komite Tetap Majelis Nasional memberikan pendapat tentang rancangan Undang-Undang tentang Industri Teknologi Digital .

Manajemen berbasis risiko sepanjang siklus hidup kecerdasan buatan

Pengajuan Pemerintah menyatakan bahwa konstruksi Undang-Undang tersebut bertujuan untuk mengusulkan kebijakan yang layak, peraturan khusus, menciptakan koridor hukum yang jelas, khususnya untuk produk dan layanan teknologi digital untuk mendorong pengembangan industri teknologi digital; menciptakan mekanisme insentif untuk industri teknologi digital, termasuk beberapa insentif investasi khusus; dan insentif dan dukungan investasi khusus.

Menteri Informasi dan Komunikasi Nguyen Manh Hung berbicara di pertemuan tersebut. (Foto: DUY LINH)

Rancangan Undang-Undang tentang Industri Teknologi Digital terdiri dari 8 bab dan 73 pasal, di mana terdapat satu bab tersendiri yang mengatur tentang isi kecerdasan buatan.

Secara khusus, pengembangan, penyediaan, penyebaran dan penggunaan kecerdasan buatan harus didasarkan pada prinsip-prinsip: melayani kesejahteraan dan kebahagiaan manusia, berpusat pada manusia, meningkatkan produktivitas dan efisiensi kerja; akses yang inklusif, adil dan tidak diskriminatif; menghormati nilai-nilai etika, hak asasi manusia dan kepentingan serta melindungi privasi.

Pada saat yang sama, pastikan transparansi, penjelasan, akuntabilitas, pengendalian algoritma dan model kecerdasan buatan; jangan menggantikan atau melampaui kendali manusia; pastikan keamanan dan kerahasiaan; manajemen berbasis risiko sepanjang siklus hidup kecerdasan buatan...

Draf tersebut juga menyebutkan bahwa produk teknologi digital yang dihasilkan oleh sistem kecerdasan buatan wajib diberi label untuk identifikasi. Kementerian Informasi dan Komunikasi mengatur label; proses, dan prosedur pelabelan produk teknologi digital yang dihasilkan oleh sistem kecerdasan buatan.

Pengembang sistem kecerdasan buatan adalah individu atau organisasi yang melakukan pengembangan sistem kecerdasan buatan dan bertanggung jawab untuk melindungi privasi dan informasi pribadi; segera menyelesaikan permintaan pencarian, penyalinan, pengeditan, penambahan, dan penghapusan informasi pribadi sesuai dengan undang-undang tentang perlindungan data pribadi.

Beri tahu pengguna dengan jelas sebelumnya jika sistem kecerdasan buatan memiliki risiko keselamatan atau keamanan ketika privasi atau hak dan kepentingan terkait informasi pribadi dilanggar. Periksa dan pantau kerentanan dan risiko keamanan secara berkala, serta simpan catatan perkembangan dan pengelolaan sistem kecerdasan buatan...

Rancangan Undang-Undang ini menugaskan Pemerintah untuk menentukan secara rinci kriteria, kewenangan, tata cara, dan prosedur penetapan sistem kecerdasan buatan berisiko tinggi, sistem kecerdasan buatan berpotensi berdampak tinggi; tanggung jawab, dan pengecualian bagi organisasi dan individu yang terkait dengan pengembangan, penyediaan, dan penggunaan sistem kecerdasan buatan.

Selain konten tentang kecerdasan buatan, Rancangan Undang-Undang tentang Industri Teknologi Digital memiliki bab terpisah yang mengatur: pengembangan industri teknologi digital; pengembangan perusahaan teknologi digital; mekanisme pengujian terkendali; industri semikonduktor; manajemen negara dalam industri teknologi digital.

Setuju untuk mengintegrasikan regulasi tentang sistem AI dalam rancangan UU

Melalui pemeriksaan, Komite Sains, Teknologi, dan Lingkungan Majelis Nasional menemukan bahwa rancangan Undang-Undang tersebut telah dilembagakan dan konsisten dengan pedoman dan kebijakan Partai serta kebijakan Negara. Secara umum, rancangan Undang-Undang tersebut memenuhi persyaratan dan layak untuk diajukan kepada Majelis Nasional untuk dipertimbangkan dan diberi masukan.

Ketua Komite Sains, Teknologi, dan Lingkungan Hidup Le Quang Huy menyampaikan laporan tinjauan. (Foto: DUY LINH)

Komite Tetap menyetujui desain kebijakan dan peraturan baru yang inovatif untuk mendorong pengembangan industri teknologi digital.

Pengaturan aset digital dalam Undang-Undang dianggap perlu. Namun, menurut lembaga yang bertanggung jawab atas peninjauan tersebut, pengelolaan aset digital merupakan isu baru dan rumit yang memerlukan pertimbangan cermat, termasuk penelitian dan klarifikasi beberapa konten terkait klasifikasi aset digital dan pengembangan peraturan pengelolaan terkait; tentang kepemilikan, pewarisan, dan hak guna; langkah-langkah keamanan, transaksi aset digital, penanganan pengaduan pengguna, perlindungan hak kekayaan intelektual; memastikan pengelolaan yang ketat, anti pencucian uang, dan transparansi pasar.

Mengenai kecerdasan buatan (AI), ada pendapat yang menyarankan bahwa penelitian komprehensif diperlukan (termasuk isu-isu seperti kepemilikan, hak milik dan hak pribadi terhadap data, masalah perlindungan hak cipta, dll.) untuk mengembangkan Undang-Undang terpisah tentang AI di Vietnam.

Komite Sains, Teknologi, dan Lingkungan Hidup berpendapat bahwa saat ini, Vietnam perlu memiliki dasar hukum untuk mengatur kecerdasan buatan guna mengembangkan kekuatan dan keunggulan AI sekaligus membatasi dampak negatif dalam penelitian, penerapan, dan pengembangan teknologi AI. Oleh karena itu, pada dasarnya mereka setuju dengan perlunya regulasi tentang sistem AI yang dituangkan dalam rancangan Undang-Undang.

Namun demikian, perlu dilakukan kajian dan penyempurnaan regulasi untuk membatasi risiko dan dampak teknologi AI terhadap kehidupan ekonomi dan sosial, seperti prinsip etika; penelitian dan pengembangan AI yang dilakukan oleh Vietnam; pemberian izin kepada pelaku usaha yang memiliki proyek penelitian AI untuk menggunakan sumber data dari instansi negara; pengaturan tingkat penerapan kecerdasan buatan di instansi negara dari solusi yang dimiliki oleh perusahaan dalam negeri untuk mendorong penggunaan dan menciptakan pasar.

Sumber: https://nhandan.vn/de-xuat-cac-nguyen-tac-quan-ly-phat-trien-va-su-dung-tri-tue-nhan-tao-post835536.html