Menurut delegasi Dong Ngoc Ba, diundangkannya Undang-Undang Kecerdasan Buatan (AI) akan memberikan kontribusi bagi terciptanya landasan hukum yang terpadu dan sinkron, baik dalam rangka mendorong pengembangan maupun menjamin pengelolaan risiko yang efektif dalam penelitian, pengembangan dan pemanfaatan AI, serta memenuhi tuntutan pembangunan sosial ekonomi di era digital.
Delegasi menyampaikan bahwa lembaga penyusun telah sangat aktif dan bertanggung jawab, mempelajari dan menyerap berbagai masukan dari lembaga peninjau dan instansi terkait untuk menyempurnakan rancangan Undang-Undang. Delegasi sangat mengapresiasi berbagai konten yang telah diserap dan direvisi dalam rancangan baru ini.
Bersamaan dengan itu, disarankan untuk terus melakukan peninjauan dan penyesuaian, terutama memastikan konsistensi dan sinkronisasi dengan peraturan perundang-undangan terkait seperti Kitab Undang-Undang Hukum Perdata, Undang-Undang tentang Mutu Produk dan Barang, Undang-Undang tentang Hak Kekayaan Intelektual, Undang-Undang tentang Teknologi Tinggi, Undang-Undang tentang Standar dan Regulasi Teknis; memastikan adanya pemikiran legislatif dan teknik legislatif yang baru.
Selain itu, Wakil Dong Ngoc Ba juga membuat beberapa rekomendasi khusus.
Rancangan Undang-Undang tentang Kecerdasan Buatan (Pasal 7 sampai dengan 11) menetapkan klasifikasi manajemen risiko sistem AI menjadi empat tingkatan: risiko rendah, risiko sedang, risiko tinggi, dan risiko tidak dapat diterima.
Wakil Ba mengatakan, jika dilihat dari hakikat AI, jika sistem AI dianggap sebagai jenis produk atau komoditi, maka ketentuan RUU ini tidak beralasan dan tidak sejalan, serta tidak sesuai dengan ketentuan UU Mutu Produk dan Barang (yang membagi produk dan barang menjadi 3 golongan, yaitu risiko rendah, risiko sedang, dan risiko tinggi).
Oleh karena itu, disarankan agar lembaga perancang meneliti dan mengklasifikasikan sistem AI secara cermat dan konsisten dengan Undang-Undang tentang Kualitas Produk dan Barang (3 tingkat risiko) untuk memudahkan penerapan.
"Dalam kasus sistem AI dengan " risiko yang tidak dapat diterima", hal ini harus dianggap sebagai kegiatan terlarang, dan harus diatur secara khusus sebagai larangan dalam Rancangan Undang-Undang. Perlu ditambahkan tindakan terlarang lainnya dalam penelitian, pengembangan, dan penggunaan AI (misalnya: penggunaan AI untuk melanggar keamanan nasional, penggunaan AI untuk melakukan diskriminasi berdasarkan data biometrik, dll.) untuk memastikan kelengkapan dan ketegasan," usul Wakil Ba.
Terkait tanggung jawab ganti rugi atas kerugian yang ditimbulkan oleh sistem AI, pada Poin a, Klausul 3, Pasal 30 RUU Kecerdasan Buatan disebutkan: “Untuk sistem AI berisiko tinggi: Jika terjadi kerugian akibat pelanggaran dalam pengelolaan dan pemanfaatan sistem AI, maka badan atau perorangan yang melakukan pelanggaran wajib mengganti kerugian tersebut sesuai dengan ketentuan hukum perdata”.
Berdasarkan Pasal 601 KUHPerdata Pasal 1, sumber bahaya ekstrem meliputi kendaraan bermotor, sistem transmisi tenaga listrik, pabrik industri yang sedang beroperasi, senjata, bahan peledak, bahan mudah terbakar, bahan beracun, bahan radioaktif, binatang buas, dan sumber bahaya ekstrem lainnya sebagaimana ditentukan oleh undang-undang.
Menurut Deputi Dong Ngoc Ba, Kitab Undang-Undang Hukum Perdata membedakan antara ganti rugi atas kerugian yang disebabkan oleh sumber bahaya tinggi dan kasus-kasus lain, terutama terkait faktor kesalahan dalam menentukan kewajiban ganti rugi. Dengan ketentuan RUU Kecerdasan Buatan pada Poin a, Klausul 3, Pasal 30 di atas, tidak jelas apakah "sistem AI berisiko tinggi" merupakan "sumber bahaya tinggi" atau bukan. Sementara itu, dari segi teknis dan teknologi, sistem AI berisiko tinggi memiliki sifat sebagai sumber bahaya tinggi.
Oleh karena itu, delegasi mengusulkan untuk mengkaji dan merevisi ketentuan pada Butir a, Ayat 3, Pasal 30 Rancangan Undang-Undang tentang Kecerdasan Buatan ke arah pendefinisian sistem Kecerdasan Buatan berisiko tinggi sebagai sumber bahaya ekstrem, agar terdapat dasar dalam penerapan pengaturan tentang tanggung jawab ganti rugi atas kerugian yang ditimbulkan oleh sistem Kecerdasan Buatan menurut ketentuan Kitab Undang-Undang Hukum Perdata.
Terkait inovasi dalam pemikiran dan teknik legislasi, Wakil Ba mengusulkan peninjauan untuk memastikan bahwa Undang-Undang Kecerdasan Buatan tidak mengatur hal-hal yang berada di bawah kewenangan Pemerintah . Khususnya, pada Bab VI (inspeksi, pemeriksaan, dan penanganan pelanggaran), pertimbangkan untuk tidak mengatur inspeksi khusus, melainkan menyerahkannya kepada Pemerintah sesuai kewenangannya. Tinjau Bab VII (pengelolaan negara atas AI), hapus peraturan yang berada di bawah kewenangan Pemerintah seperti tanggung jawab pengelolaan negara kementerian... Usulkan penggabungan Bab VI ke dalam Bab VII, karena inspeksi, pemeriksaan, dan penanganan pelanggaran pada hakikatnya merupakan isi khusus dari pengelolaan negara atas AI.
Wakil Kepala Delegasi Majelis Nasional Provinsi Gia Lai Siu Huong menyatakan minatnya pada peraturan tentang etika dan tanggung jawab dalam kegiatan AI di bab 5.
Menurut Delegasi Huong, saat ini banyak model AI yang dilatih dengan mengumpulkan data, karya seni, dan konten kreatif dari internet tanpa izin dari pembuatnya, dan tidak ada mekanisme kompensasi yang diberikan kepada pembuatnya. Hal ini berpotensi menimbulkan risiko pelanggaran hak kekayaan intelektual pembuat konten.
Oleh karena itu, delegasi menyarankan agar lembaga perancang mempertimbangkan penambahan peraturan pada Bab 5 yang mewajibkan pengembang sistem AI memiliki mekanisme perizinan yang jelas, yang memungkinkan pemilik konten untuk memilih apakah akan menyetujui atau menolak penggunaan karya mereka untuk tujuan pelatihan AI. Pada saat yang sama, penelitian harus membangun mekanisme kompensasi atau pembagian keuntungan bagi penulis ketika karya mereka digunakan dalam pelatihan model AI.
Berpartisipasi dalam diskusi tersebut, Wakil Nguyen Van Canh (anggota delegasi Majelis Nasional provinsi Gia Lai) mengangkat isu tersebut dari sudut pandang konsumen yang prihatin ketika menggunakan produk "AI", jika terjadi insiden di luar kendali, yang menyebabkan kerusakan, siapa yang akan bertanggung jawab untuk memberikan kompensasi.
Menurut Wakil Canh, RUU Kecerdasan Buatan tidak menjelaskan istilah "produk yang menggunakan teknologi AI". Konsumen hanya mengenal produknya, tetapi hanya peneliti dan ilmuwan yang mengetahui apa itu teknologi AI.
Wakil Canh mengusulkan untuk membedakan AI secara jelas sebagai produk input, sarana-alat, produk setengah jadi, atau produk jadi. Dari sana, akan ada peraturan khusus tentang tanggung jawab pemasok.
"Misalnya, AI hanya terintegrasi ke dalam produk. Ketika terjadi kerusakan, penjual produk tersebut harus bertanggung jawab penuh dan tidak boleh menyalahkan AI, 'karena perusahaan pembuat AI menjualnya kepada saya, saya tidak punya kendali atasnya'," analisis Deputi Canh.
Sumber: https://baogialai.com.vn/viec-ban-hanh-luat-tri-tue-nhan-tao-la-van-de-cap-bach-post573129.html
Komentar (0)