Menetapkan tanggung jawab dan hak pihak-pihak terkait dalam rancangan Undang-Undang Kecerdasan Buatan

Penggunaan kecerdasan buatan belakangan ini telah menimbulkan banyak masalah terkait keamanan, peniruan identitas, simulasi suara dan wajah untuk melakukan tindakan ilegal di ruang digital. Dalam proses penggunaannya, jika terjadi kesalahan yang tidak memenuhi kebutuhan pengguna, tanggung jawab penyedia serta hak dan kepentingan terkait antara para pihak perlu diatur secara khusus dalam Rancangan Undang-Undang ini.

Pagi ini, 21 November, Kelompok 15 termasuk Delegasi Majelis Nasional provinsi Phu Tho dan Dak Lak membahas rancangan Undang-Undang tentang Kecerdasan Buatan.

Pembuatan hukum yang berpusat pada manusia

Menanggapi rancangan Undang-Undang Kecerdasan Buatan, sebagian besar delegasi sepakat tentang perlunya diundangkan dalam konteks integrasi dan pembangunan saat ini; isinya sesuai dengan pedoman Partai dan kebijakan hukum Negara dalam hal kepemimpinan dan arahan. Namun, ini merupakan rancangan Undang-Undang yang baru, sangat kompleks dan mendalam, sementara waktu persiapannya mendesak, dan materi untuk penyusunan rancangan Undang-Undang tersebut masih terbatas. Oleh karena itu, Delegasi Majelis Nasional Dang Bich Ngoc ( Phu Tho ) menyarankan agar panitia penyusun terus meninjau ketentuan-ketentuan dalam rancangan Undang-Undang tersebut agar konsisten dengan undang-undang yang telah diterbitkan sebelumnya, sehingga menciptakan kesatuan dan sinkronisasi dalam implementasi di masa mendatang.

Delegasi Majelis Nasional Dang Bich Ngoc (Phu Tho) berpidato. Foto: Lam Hien

Selain itu, penggunaan kecerdasan buatan belakangan ini telah menimbulkan banyak masalah terkait keamanan, peniruan identitas, simulasi suara dan wajah untuk melakukan tindakan ilegal di ruang digital. Oleh karena itu, sangat penting untuk meninjau dan menetapkan peraturan yang mengatur kegiatan keamanan dan menjamin hak-hak pengguna selama penggunaan. Khususnya, ketika terjadi kesalahan selama penggunaan dan tidak memenuhi kebutuhan pengguna, tanggung jawab penyedia serta hak dan kepentingan terkait antara para pihak perlu diatur secara khusus dalam RUU. Hal ini akan berkontribusi untuk menjamin keselamatan, keamanan, dan memenuhi tuntutan pengguna yang semakin meningkat dalam konteks saat ini.

Menurut Wakil Majelis Nasional Tran Van Tien (Phu Tho), ruang lingkup pengaturan rancangan Undang-Undang saat ini sangat luas dan mencakup banyak kegiatan, sementara ada kegiatan yang tidak tercakup dalam rancangan Undang-Undang, seperti: kegiatan penelitian kecerdasan buatan. Pada saat yang sama, ada beberapa konten yang tidak tercakup dalam ruang lingkup pengaturan, seperti: etika dan tanggung jawab dalam kegiatan kecerdasan buatan; inspeksi, pemeriksaan dan penanganan pelanggaran dalam kegiatan kecerdasan buatan. Oleh karena itu, direkomendasikan agar panitia perancang mempelajari dan melengkapinya agar sesuai dengan isi rancangan Undang-Undang. Selain itu, perlu untuk mempelajari dan melengkapi ketentuan tentang konten aplikasi kecerdasan buatan dalam Bab 4, karena meskipun Bab ini menyebutkan masalah aplikasi kecerdasan buatan, konten dari konten ini belum diklarifikasi.

Wakil Majelis Nasional Tran Van Tien (Phu Tho) berpidato. Foto: Lam Hien

Setuju dengan pandangan bahwa hanya menyusun kerangka hukum dan menetapkan prinsip-prinsip yang diperlukan merupakan kewenangan Majelis Nasional , dan menugaskan Pemerintah untuk menerbitkan dokumen-dokumen yang menyediakan regulasi terperinci, memastikan manajemen yang fleksibel dan harmonis, mengendalikan risiko, dan mendorong pembangunan, Wakil Majelis Nasional Dang Bich Ngoc menekankan: Kita harus bertekad untuk menempatkan rakyat sebagai pusat, memastikan ketertiban dan keamanan sosial, privasi, keselamatan, keamanan jaringan, dan kesesuaian antara undang-undang ini dengan perjanjian internasional yang relevan. Dengan demikian, ketika menyusun rancangan undang-undang ini, rancangan tersebut akan memenuhi persyaratan pembangunan dan integrasi serta memastikan keselarasan kepentingan, yang bertujuan pada tujuan akhir menempatkan rakyat sebagai pusat.

Delegasi juga mengusulkan agar berdasarkan praktik dan persyaratan pengembangan, Pemerintah menerbitkan dokumen sub-undang-undang yang jelas dan spesifik untuk menciptakan kondisi agar proses implementasi dapat berlangsung lancar, seragam dan konsensual dalam pengorganisasian implementasi.

Memfokuskan regulasi pada pengendalian sistem AI berisiko tinggi

Untuk mendorong penelitian dan pengembangan kecerdasan buatan (AI), khususnya aplikasi AI yang dibuat di Vietnam, perlu memiliki kerangka kerja untuk pembentukan dan penyebaran data berkualitas tinggi; pada saat yang sama, perlu memastikan infrastruktur AI termasuk infrastruktur energi, infrastruktur komputasi berkinerja tinggi, platform komputasi awan... Ini adalah isu-isu yang telah ditetapkan dalam undang-undang yang relevan, oleh karena itu, Wakil Majelis Nasional Nguyen Thuy Anh (Phu Tho) menyarankan agar perancangan undang-undang tersebut berfokus pada isu-isu penting dan mendesak yang perlu segera diselesaikan, memastikan konsistensi dan sinkronisasi sistem hukum, menghindari konflik yang tumpang tindih untuk menciptakan kemudahan maksimal dalam penelitian, pengembangan, penerapan aplikasi AI dan memenuhi persyaratan manajemen yang ketat untuk area-area dengan faktor risiko tinggi.

Delegasi Majelis Nasional Nguyen Thuy Anh (Phu Tho) berpidato. Foto: Lam Hien

Selain itu, para delegasi juga meminta agar Rancangan Undang-Undang ini dikaji dan dikaji secara saksama, agar tidak mengatur ulang isi yang telah ditetapkan dalam undang-undang yang telah diundangkan, khususnya Undang-Undang tentang Industri Teknologi Digital, Undang-Undang tentang Ilmu Pengetahuan, Teknologi, dan Inovasi, serta Rancangan Undang-Undang tentang Transformasi Digital (yang sedang diajukan kepada Majelis Nasional untuk dipertimbangkan dan disetujui pada Sidang ke-10). Selain itu, perlu dipastikan bahwa mekanisme, kebijakan preferensial, dan mekanisme pengujian terkendali terpadu, sinkron, dan tidak tumpang tindih atau bertentangan dengan ketentuan perundang-undangan.

Ikhtisar diskusi Kelompok 15. Foto: Lam Hien

Di sisi lain, teruslah meneliti dan menyelesaikan proyek Hukum dengan fokus pada regulasi untuk mengendalikan sistem AI berisiko tinggi secara ketat dan efektif. Untuk sistem AI berisiko menengah, berisiko rendah, atau untuk keperluan umum, perlu diselesaikan arahan untuk meminimalkan prosedur administratif, menciptakan kondisi yang mendukung implementasi; sekaligus mendukung biaya kepatuhan, menciptakan kondisi untuk akses ke sumber modal, sumber data berkualitas tinggi, dan mendorong penyebaran hasil penelitian.

Terkait ketentuan pertanggungjawaban atas kerugian, ketentuan dalam Klausul 4 Pasal 30 menyatakan bahwa dalam kasus di mana beberapa entitas berpartisipasi dalam pengembangan, penyediaan, penyebaran, atau pengoperasian sistem kecerdasan buatan, mereka harus bersama-sama mengganti kerugian yang disebabkan oleh sistem kecerdasan buatan tersebut. Pertanggungjawaban atas kerugian ditentukan berdasarkan tingkat kendali aktual, prediktabilitas, dan langkah-langkah manajemen risiko yang diterapkan oleh masing-masing pihak. Delegasi Nguyen Thuy Anh menyarankan bahwa perlu untuk mempelajari dan mengevaluasi kelayakan penentuan berdasarkan tingkat kendali aktual dan prediktabilitas masing-masing pihak karena kriteria tersebut saat ini belum jelas dan kurang dalam penilaian.

Terkait dengan peraturan tentang Dana Pembangunan AI Nasional (Pasal 23), perlu mempelajari dan meninjau peraturan ini untuk memastikan kepatuhan terhadap ketentuan Undang-Undang Anggaran Negara. Dengan demikian, tugas pengeluaran Dana Keuangan Negara di luar anggaran tidak boleh tumpang tindih dengan tugas pengeluaran anggaran negara; pada saat yang sama, menilai dengan cermat kesesuaian dan kelayakan dalam praktik peraturan bahwa Dana diizinkan untuk menerapkan mekanisme keuangan tertentu, mengalokasikan modal secara fleksibel sesuai dengan kemajuan proyek yang tidak jatuh dalam tahun anggaran di mana urutan dan prosedur untuk mempertimbangkan hak untuk memutuskan dan mempersingkat tugas strategis diterapkan, memastikan kepatuhan terhadap ketentuan hukum saat ini. Selain itu, penelitian dan perhitungan kebutuhan pengeluaran Dana, kemampuan untuk memobilisasi dari sumber pendapatan, atas dasar itu, memiliki kebijakan yang tepat untuk mengelola, memobilisasi dan menggunakan modal Dana secara paling efektif.

Sumber: https://daibieunhandan.vn/quy-dinh-cu-the-trach-nhiem-va-quyen-loi-cac-ben-lien-quan-trong-du-thao-luat-tri-tue-nhan-tao-10396537.html