Pada sore hari tanggal 27 November, di bawah arahan Wakil Ketua Majelis Nasional Le Minh Hoan, Majelis Nasional membahas rancangan Undang-Undang tentang Kecerdasan Buatan di Aula.
Kurangnya regulasi tentang kompensasi dan tanggung jawab asuransi
Terkait Pasal 20 Rancangan Undang-Undang tentang Mekanisme Pengujian Terkendali untuk Pengembangan Kecerdasan Buatan, Anggota Majelis Nasional Hoang Minh Hieu ( Nghe An ) menyatakan bahwa tujuan utama mekanisme pengujian terkendali untuk kecerdasan buatan (AI) adalah untuk menghilangkan hambatan hukum yang menghambat model AI, sehingga memungkinkan pengujian terbatas untuk memperoleh data guna membuktikan efektivitasnya, sehingga mendorong reformasi regulasi jangka panjang. Pendekatan ini juga sangat konsisten dengan pemikiran legislatif kita saat ini, yaitu bahwa institusi harus menjadi yang terdepan dalam membuka jalan bagi pengembangan.
Delegasi menekankan bahwa pengaturan tentang mekanisme pengujian terkendali harus menjadi fokus kerangka hukum AI, sehingga lembaga perancang perlu meneliti dan mengatur masalah ini secara lebih spesifik dalam rancangan Undang-Undang.
Oleh karena itu, delegasi mengusulkan untuk meninjau peraturan tentang organisasi dan individu yang berpartisipasi dalam uji coba terkendali yang dikecualikan atau yang beberapa kewajiban kepatuhannya dikurangi sebagaimana diatur dalam Klausul 2, Pasal 20 rancangan Undang-Undang. Peraturan tersebut menyebabkan cakupan pengecualian terbatas pada ketentuan Undang-Undang ini, sementara sistem AI seringkali terkait dengan banyak ketentuan hukum relevan lainnya.
Para delegasi mengutip mekanisme pengujian AI pada pesawat penumpang swakemudi di Jepang, yang dikecualikan dari beberapa aturan keselamatan penerbangan. Atau, pengujian mobil swakemudi di Tiongkok dan Jepang dikecualikan dari ketentuan Undang-Undang Perlindungan Data Pribadi, yaitu menggunakan data gambar tanpa mengaburkan wajah peserta lalu lintas untuk melatih dan melatih penglihatan AI.
Berdasarkan pengalaman negara lain, para delegasi mengusulkan agar lembaga yang bertugas menyusun kajian hanya menetapkan dalam Pasal 2, Pasal 20 dengan arah yang secara jelas mendefinisikan bahwa organisasi dan individu yang berpartisipasi dalam uji coba terkendali dikecualikan atau diringankan dari beberapa kewajiban kepatuhan yang ditentukan dalam Undang-Undang ini dan peraturan perundang-undangan terkait lainnya.
Pasal 20 ayat 5 memberikan kewenangan kepada Badan Pengelola Kecerdasan Buatan (BPU) untuk menyelenggarakan penerimaan, penilaian, dan pengolahan berkas untuk mengikuti kegiatan uji terkendali sesuai dengan proses penilaian dan tanggap cepat.
Delegasi Hoang Minh Hieu mencatat bahwa sistem AI bukan hanya isu yang berkaitan dengan teknologi, algoritma... tetapi juga isu multidisiplin dan interdisipliner. Oleh karena itu, ketentuan dalam Klausul 5 kemungkinan hanya cocok untuk sistem AI umum, seperti AI generatif (ChatGPT, Gemini)... Sedangkan untuk sistem AI khusus, sifat interdisiplinernya sangat tinggi.
Mengutip sistem DrAid, sebuah produk AI yang mendukung diagnosis citra medis yang dikembangkan oleh VinBrain, delegasi Hoang Minh Hieu mengatakan bahwa jika sistem tersebut terdaftar untuk pengujian, mustahil untuk tidak melibatkan peran pemantauan dan pengelolaan dari Kementerian Kesehatan. Oleh karena itu, di beberapa negara, penilaian dan perizinan pengujian terkendali sistem AI diserahkan kepada dewan interdisipliner.
Para delegasi mengusulkan revisi ketentuan Pasal 20 Klausul 5 RUU tersebut dengan arahan "Badan Pengelola Kecerdasan Buatan Negara memimpin dan berkoordinasi dengan Badan Pengelola Kecerdasan Buatan Negara terkait untuk menyelenggarakan penerimaan, penilaian, dan pemrosesan berkas untuk berpartisipasi dalam kegiatan pengujian terkendali".
Delegasi tersebut juga menyatakan bahwa ketentuan dalam Pasal 20 RUU tersebut masih kurang mengatur tentang ganti rugi dan tanggung jawab asuransi. RUU tersebut juga tidak menyebutkan siapa yang bertanggung jawab jika pengujian tersebut menyebabkan kerugian pada pihak ketiga. Berdasarkan prinsip umum, organisasi atau individu yang melakukan pengujian harus membayar ganti rugi perdata jika menyebabkan kerugian. Oleh karena itu, delegasi Hoang Minh Hieu menyarankan untuk mempertimbangkan penambahan ketentuan ini ke dalam RUU.
Semua perangkat lunak AI yang beroperasi di Vietnam harus dilengkapi dengan " basis data dasar mirip manusia standar "
Wakil Majelis Nasional Tran Van Lam (Bac Ninh) sangat mengapresiasi rancangan Undang-Undang tersebut karena mendefinisikan prinsip mengutamakan rakyat; mengklasifikasikan dan mengendalikan risiko; memeriksa sistem AI berisiko tinggi; dan mengembangkan infrastruktur komputasi dan data nasional. Ini merupakan kerangka hukum yang progresif, sejalan dengan tren internasional.
Namun, agar Undang-Undang tersebut benar-benar lengkap dan memiliki visi jangka panjang, delegasi mengusulkan tambahan penting: Anggap AI sebagai "manusia yang baru lahir". Sebuah "entitas yang cerdas namun polos": tidak mengetahui hukum, tidak memahami etika dan etiket, tidak memiliki nilai-nilai budaya, dan tidak dapat membedakan yang benar dari yang salah jika tidak diajarkan.
"Jika kita menganggap AI sebagai entitas yang sedang berkembang, tanggung jawab kita bukan hanya mengendalikannya, tetapi juga mengajarkannya sejak dini, seperti mengajarkan anak-anak tentang nilai-nilai kemanusiaan yang baku. Dan ini seharusnya menjadi ketentuan wajib dalam Undang-Undang ini, bukan sekadar anjuran," ujar delegasi Tran Van Lam.
Para delegasi mengusulkan agar Majelis Nasional menambahkan prinsip hukum dalam Undang-Undang: "Semua perangkat lunak AI yang beroperasi di Vietnam, baik yang dikembangkan oleh organisasi domestik maupun asing, harus dilengkapi dengan basis data manusia standar ."
Menurut delegasi, "basis data dasar manusia standar" harus berisi informasi yang memadai untuk mengajarkan AI memahami hukum Vietnam; mengajarkan standar etika, budaya, dan tradisi baik bangsa kepada AI; mengajarkan AI kemampuan untuk mengidentifikasi benar dan salah, standar dan tidak standar; batasan perilaku yang tidak boleh dilampaui, dan aturan untuk mengidentifikasi risiko bagi manusia. Dan yang terpenting, memastikan bahwa basis data dasar ini harus selalu menjadi prioritas utama dalam mengatur perilaku AI; tidak boleh ditimpa, diganti, atau dinonaktifkan oleh algoritma atau data pelatihan lain. Inilah "cincin emas" hukum dan teknis yang memastikan AI tidak tersesat.
Untuk menerapkan orientasi ini secara efektif, para delegasi menyarankan agar Kementerian Sains dan Teknologi memimpin pembangunan platform basis data "Being Vietnamese" yang terpadu, terstandarisasi, dan terus diperbarui; menyediakannya bagi para pengembang AI sebagai persyaratan wajib. Pemerintah perlu mengembangkan infrastruktur komputasi nasional yang kuat untuk memastikan bahwa AI Vietnam dilatih berdasarkan nilai-nilai Vietnam, alih-alih bergantung pada model asing.
Pada saat yang sama, bangunlah Pusat Pengujian AI Nasional untuk segera menilai perilaku menyimpang, mengendalikan model berisiko tinggi, dan segera melakukan intervensi ketika ada tanda-tanda melampaui batas. Promosikan pendidikan AI di seluruh masyarakat, dengan fokus membantu masyarakat, pelaku bisnis, dan khususnya sektor publik agar memiliki kapasitas untuk mengidentifikasi, menggunakan, dan memantau AI dengan tepat.
Delegasi Tran Van Lam menekankan, "Undang-Undang Kecerdasan Buatan saat ini bukan sekadar undang-undang teknologi, melainkan undang-undang masa depan; sebuah komitmen Majelis Nasional kepada Rakyat, kita mengembangkan teknologi tanpa kehilangan kendali; mendorong inovasi tanpa membiarkan risiko melampaui jangkauan kita. Dan mengembangkan AI dengan nilai-nilai Vietnam untuk melayani rakyat Vietnam."
Sumber: https://daibieunhandan.vn/phat-trien-cong-nghe-thuc-day-doi-moi-nhung-khong-de-rui-ro-vuot-tam-10397378.html
Komentar (0)