Kecerdasan buatan harus beroperasi dalam batasan hukum dan etika.

Pagi ini, 21 November, saat berdiskusi di Kelompok 6 (termasuk Delegasi Majelis Nasional Lang Son, Dong Nai, Kota Hue) tentang proyek Undang-Undang Kecerdasan Buatan, para Deputi Majelis Nasional mengatakan bahwa untuk menyelesaikan proyek Undang-Undang dengan tujuan mengelola dan mempromosikan penelitian dan pengembangan kecerdasan buatan di Vietnam, perlu untuk mengklarifikasi isu-isu utama seperti: data masukan, hak kekayaan intelektual, ruang lingkup aplikasi, klasifikasi risiko, tanggung jawab pengguna, dan etika AI...

Perlu merancang mekanisme tata kelola AI yang modern dan sinkron

Menyatakan persetujuan mereka terhadap pendekatan penyusunan Undang-Undang ini sebagai Undang-Undang kerangka kerja untuk mengelola dan mendorong penelitian, pengembangan, penerapan, dan pemanfaatan kecerdasan buatan di Vietnam, para anggota Dewan Perwakilan Rakyat sangat mengapresiasi persiapan Pemerintah; berkas rancangan Undang-Undang ini disusun secara rinci, memastikan kepatuhan terhadap peraturan; pada saat yang sama, usulan untuk menghapus sejumlah pasal dan klausul terkait dalam Undang-Undang Industri Teknologi Digital diperlukan untuk menghindari tumpang tindih, sehingga menciptakan landasan hukum yang terpadu untuk mengelola dan mendorong pengembangan AI. Namun, untuk menyelesaikan rancangan Undang-Undang ini, para anggota Dewan Perwakilan Rakyat meminta Panitia Perancang untuk terus meninjau dan mengubah, melengkapi, serta menghapus sejumlah pasal dan klausul sebagaimana mestinya.

Suasana pertemuan Kelompok 6 pada pagi hari tanggal 21 November. Foto: Ho Long

Khususnya, terkait ruang lingkup pengaturan dan subjek yang berlaku, Wakil Majelis Nasional Pham Trong Nghia (Lang Son) menyatakan bahwa klarifikasi atas masalah ini perlu dilanjutkan. Pasalnya, saat ini ketentuan terkait "kegiatan penelitian" dalam rancangan tersebut berisiko tumpang tindih dengan isi yang telah diatur dalam Undang-Undang Sains , Teknologi, dan Inovasi. Sementara itu, rancangan tersebut tidak memiliki kebijakan khusus untuk mendorong penelitian sistem kecerdasan buatan, dan belum mendefinisikan secara jelas subjek yang melakukan kegiatan ini. Oleh karena itu, delegasi menyarankan untuk mengklarifikasi kegiatan mana yang berada dalam ruang lingkup pengaturan Undang-Undang, dan kegiatan mana yang berada di bawah Undang-Undang yang berlaku saat ini untuk memastikan kelayakan, konsistensi, dan menghindari tumpang tindih.

Wakil Majelis Nasional Pham Trong Nghia ( Lang Son ) memberikan komentar mengenai rancangan Undang-Undang Kecerdasan Buatan. Foto: Ho Long

Terkait penjelasan istilah, anggota Majelis Nasional Pham Trong Nghia memberikan perhatian khusus pada konsep "penyempurnaan" dalam model kecerdasan buatan untuk tujuan umum. Perwakilan tersebut mengatakan bahwa istilah ini masih khusus dan belum populer, sehingga isinya perlu didefinisikan secara jelas untuk memudahkan penerapan dan penegakan hukum di kemudian hari. Rancangan undang-undang saat ini hanya menetapkan satu kalimat tentang Komite Nasional Kecerdasan Buatan, yang tidak secara jelas menunjukkan: kedudukan hukum; fungsi, tugas, wewenang; struktur organisasi, mekanisme operasional; hubungan dengan kementerian dan lembaga. Oleh karena itu, perwakilan tersebut menyarankan untuk memperjelas perlunya pembentukan lembaga ini, dan sekaligus menilai kesesuaiannya dengan kebijakan perampingan aparatur sesuai dengan peraturan Partai. Jika lembaga ini tetap dipertahankan, perlu dilengkapi dengan peraturan atau menugaskan Pemerintah untuk merinci hal-hal tersebut di atas.

Terkait tindakan terlarang, para delegasi menyatakan bahwa rancangan undang-undang tersebut belum mengatur tindakan terlarang, padahal hal ini merupakan "perisai hukum" penting untuk melindungi hak asasi manusia, memastikan persaingan yang adil, dan mematuhi standar internasional. Sementara itu, Undang-Undang Kecerdasan Buatan (AI) yang paling mutakhir di dunia justru secara gamblang mengatur tindakan terlarang seperti penyalahgunaan data pribadi, diskriminasi sistematis, penggunaan AI untuk tujuan merugikan, dan sebagainya. Oleh karena itu, diusulkan untuk menambahkan pasal terpisah tentang tindakan terlarang, berdasarkan prinsip-prinsip: transparansi, keamanan, akuntabilitas, pengawasan manusia, keadilan, non-diskriminasi, dan dukungan terhadap inovasi terkendali.

Delegasi Majelis Nasional Nguyen Thi Suu (Kota Hue) berbicara pada sesi diskusi pagi tanggal 21 November. Foto: Ho Long

Tanggapan terhadap RUU, Anggota DPR RI Nguyen Thi Suu (Kota Hue) berfokus pada analisis regulasi yang terkait dengan infrastruktur, sumber daya manusia, dan kerangka etika AI - pilar utama yang menentukan efektivitas penerapan Undang-Undang dalam praktik.

Secara spesifik, dalam Bab III (Pasal 17 dan 18) yang mengatur infrastruktur kecerdasan buatan, para delegasi menyatakan bahwa peta jalan implementasi infrastruktur kecerdasan buatan nasional, peran kementerian, lembaga, daerah, serta badan usaha dan lembaga penelitian dalam proses pembangunan dan pengoperasiannya belum didefinisikan secara jelas. Para delegasi mengusulkan untuk melengkapi rencana implementasi spesifik dengan jadwal, tanggung jawab masing-masing lembaga, dan mekanisme pemantauan guna memastikan kelayakannya ketika Undang-Undang tersebut diundangkan.

Terkait pengembangan sumber daya manusia (Pasal 24), delegasi Nguyen Thi Suu mengatakan bahwa rancangan undang-undang tersebut hanya menetapkan tujuan, tetapi tidak memiliki mekanisme dukungan nyata bagi lembaga pelatihan dan peserta didik seperti pendanaan, standar pelatihan internasional, atau program bersama dengan perusahaan dan lembaga penelitian. Oleh karena itu, perlu melengkapi kebijakan beasiswa, mendukung pelatihan, dan mempromosikan kemitraan publik-swasta.

Terkait Kerangka Kerja Etika AI Nasional (Pasal 27), para delegasi menyatakan bahwa peraturan yang ada saat ini hanya berprinsip dan kurang memiliki mekanisme untuk memantau, mengevaluasi, dan menangani pelanggaran, sehingga sulit untuk memastikan kepatuhan dalam praktik; di saat yang sama, istilah "etika AI" belum didefinisikan secara jelas dan belum menetapkan tanggung jawab khusus kepada organisasi dan individu yang melanggar. Oleh karena itu, para delegasi mengusulkan untuk mengubah frasa "tinjauan" menjadi "publik" dalam peraturan tentang pemutakhiran kerangka kerja etika; sekaligus menambahkan ketentuan tentang pembentukan Otoritas Etika AI Nasional yang bertanggung jawab untuk memantau, mengevaluasi, dan menangani pelanggaran; menetapkan kewajiban kepatuhan bagi organisasi dan individu yang mengembangkan atau mengoperasikan sistem AI berisiko tinggi; menegaskan nilai Kerangka Kerja Etika AI yang mengikat secara hukum, yang mana pelanggaran dapat dikenakan sanksi administratif atau pidana; dan mendorong partisipasi organisasi sosial, akademisi, dan bisnis dalam kegiatan membangun dan mengevaluasi etika AI. "Hanya jika mekanisme di atas terpenuhi, Kerangka Etika AI dapat efektif, memastikan teknologi berkembang ke arah yang tepat, aman, dan untuk manusia," tegas delegasi Nguyen Thi Suu.

Apa tanggung jawabnya jika AI melakukan kesalahan?

Membahas rancangan Undang-Undang Kecerdasan Buatan, Wakil Majelis Nasional Pham Nhu Hiep (Kota Hue) mengatakan bahwa kecerdasan buatan menciptakan perubahan besar dalam bidang medis, mulai dari pembedahan, diagnosis, hingga penelitian ilmiah. Delegasi tersebut menyebutkan bahwa pembedahan jarak jauh telah muncul selama lebih dari 20 tahun, dan hingga saat ini, banyak sistem robot yang mampu melakukan pembedahan endoskopi tanpa campur tangan manusia secara langsung. Dengan pesatnya perkembangan teknologi, jika diizinkan, AI dapat sepenuhnya mengambil alih beberapa langkah pembedahan, bahkan mengancam akan mengubah peran tradisional ahli bedah. Dalam diagnosis pencitraan, AI telah banyak diterapkan di rumah sakit, termasuk Rumah Sakit Pusat Hue, yang mendukung pembacaan sinar-X, CT scan, dan film otak.

Delegasi Majelis Nasional Pham Nhu Hiep (Kota Hue) menyampaikan pendapatnya tentang rancangan Undang-Undang Kecerdasan Buatan di Kelompok 6. Foto: Ho Long

Namun, para delegasi menekankan perlunya akuntabilitas ketika AI melakukan kesalahan. Saat ini, semua hasil AI masih harus diperiksa dan diverifikasi oleh dokter dan ahli radiologi. Ketika hasilnya tidak sesuai dengan kenyataan klinis, dokter akan mengedit dan memperbaruinya agar AI dapat terus belajar. Proses "pembelajaran pasif" ini sedang diterapkan di banyak rumah sakit, tetapi kerangka hukum yang jelas tetap diperlukan untuk memastikan keselamatan pasien.

Delegasi Pham Nhu Hiep juga menyampaikan kekhawatirannya tentang dampak AI terhadap penelitian ilmiah, mengingat perangkat lunak pemeriksa plagiarisme telah menjadi populer dan beberapa perangkat AI kini dapat menulis hampir seluruh disertasi doktoral hanya dalam satu hari berdasarkan data yang diberikan. Hal ini menimbulkan tantangan besar bagi etika penelitian dan integritas ilmiah, dan perlu dipertimbangkan untuk dimasukkan dalam peraturan hukum khusus.

Terkait tanggung jawab hukum penyedia AI (Pasal 13), para delegasi mengusulkan untuk memperjelas entitas yang bertanggung jawab ketika sistem AI menyebabkan insiden atau kecelakaan. Kasus mobil swakemudi merupakan contoh tipikal: jika terjadi tabrakan, perlu ditentukan tanggung jawab sistem, produsen, atau unit manajemen operasi. Delegasi tersebut mengutip kecelakaan mobil Tesla pada tahun 2015 yang memaksa produsen membayar kompensasi besar, menegaskan bahwa AI tidak dapat bertanggung jawab sendiri, tetapi tanggung jawab tersebut harus ditanggung oleh manusia - organisasi dan individu yang merancang, memproduksi, dan menggunakan sistem tersebut.

Merujuk pada konsep etika AI, yang diterapkan oleh banyak negara untuk menentukan tindakan AI apa yang boleh dan tidak boleh dilakukan, delegasi Pham Nhu Hiep juga mengakui bahwa dalam konteks sistem AI yang memiliki kemampuan untuk belajar mandiri, berpikir mandiri, dan bahkan melampaui batasan awal pembuatnya, pengembangan dan pengoperasian AI harus ditempatkan dalam kerangka hukum dan etika. Hal ini tidak hanya untuk menjamin keamanan masyarakat, tetapi juga untuk menciptakan fondasi bagi perkembangan industri AI yang sehat di Vietnam.

Untuk mengelola AI secara efektif, data masukan dan kekayaan intelektual harus diklarifikasi.

Setuju dengan pendapat di atas, Wakil Majelis Nasional Trinh Xuan An (Dong Nai) juga membuat serangkaian komentar mendalam terkait rancangan Undang-Undang tentang Kecerdasan Buatan, dengan fokus pada kelompok isu utama: data masukan, hak kekayaan intelektual, ruang lingkup aplikasi, pendekatan manajemen risiko dan model organisasi implementasi.

Delegasi Majelis Nasional Trinh Xuan An (Dong Nai) berpidato di Grup 6 pada pagi hari tanggal 21 November. Foto: Ho Long

Mengenai data masukan untuk AI, para delegasi menyatakan bahwa data merupakan fondasi kecerdasan buatan, tetapi rancangan undang-undang tersebut belum mengklarifikasi hal ini. Pengaturan mengenai data saat ini berada di bawah Undang-Undang Data dan Undang-Undang Perlindungan Data Pribadi. Meskipun tidak disebutkan secara spesifik dalam undang-undang ini, setidaknya harus ada rujukan yang lengkap. Para delegasi setuju dengan persyaratan bahwa data harus "benar - memadai - bersih - hidup", tetapi menekankan perlunya menambahkan kriteria bahwa data harus tersistematisasi dan terus diperbarui, karena hal ini merupakan syarat agar AI dapat beroperasi secara efektif dan aman.

Terkait kekayaan intelektual, anggota Majelis Nasional Trinh Xuan An berkomentar bahwa isi rancangan tersebut masih terlalu samar, sementara AI adalah produk manusia dan berkaitan erat dengan isu hak cipta, kepemilikan, tanggung jawab hukum, dan etika. Jika komponen kekayaan intelektual tidak dijelaskan dalam undang-undang, pengelolaan AI akan sangat sulit. Oleh karena itu, delegasi merekomendasikan amandemen Undang-Undang Kekayaan Intelektual dan sekaligus mengatur isu kepemilikan dalam undang-undang ini.

Mengenai cakupan penerapannya, delegasi menunjukkan ketidaklogisan Pasal 1 ketika undang-undang mengecualikan penerapan AI untuk pertahanan, keamanan, kriptografi, dan intelijen nasional, tetapi klausul-klausul selanjutnya membuka kemungkinan penyesuaian jika sistem-sistem ini digunakan untuk tujuan lain. Dalam lingkungan digital, sulit untuk memisahkan AI untuk tujuan keamanan, pertahanan, dan sipil, karena AI dapat secara bersamaan mendukung bidang kedokteran, industri pertahanan, atau sistem tanpa awak. Oleh karena itu, pengecualian berdasarkan bidang tidak memungkinkan. Delegasi menyarankan untuk membangun kerangka regulasi yang sama, alih-alih membaginya berdasarkan tujuan penggunaan.

Anggota Dewan Perwakilan Rakyat Provinsi Dong Nai pada sesi diskusi Kelompok 6 pada pagi hari tanggal 21 November. Foto: Ho Long

Mengenai pendekatan manajemen dan klasifikasi risiko, delegasi mengatakan bahwa rancangan tersebut "menerapkan" model manajemen Eropa, sehingga menciptakan beban yang tidak perlu dalam konteks Vietnam yang perlu mendorong pengembangan AI. Klasifikasi risiko empat tingkat seperti dalam rancangan tersebut rumit dan tidak konsisten dengan Undang-Undang Kualitas Produk. Delegasi mengusulkan untuk mengklasifikasikan hanya dua kelompok: produk AI berisiko dan bebas risiko, serta menggabungkan manajemen risiko dengan manajemen berdasarkan efisiensi output dan dampak ekonomi. Ia juga mengatakan bahwa peraturan bagi bisnis untuk menilai risiko secara mandiri dan menugaskan Pemerintah untuk menetapkan kriteria bersifat "setengah tertutup, setengah terbuka", sehingga sulit diterapkan dalam praktik.

Terkait model organisasi implementasi, anggota Majelis Nasional Trinh Xuan An menyampaikan kekhawatirannya terhadap usulan pembentukan dana keuangan ekstra-anggaran dan Komite Nasional Kecerdasan Buatan. Menurut delegasi, perlu dipertimbangkan secara matang kebutuhan lembaga-lembaga ini, untuk menghindari situasi "membentuk dana dan komite untuk segala hal" yang kurang efisien. Jika benar-benar diperlukan, dana Kecerdasan Buatan harus diintegrasikan ke dalam dana yang ada, kecuali untuk kasus-kasus khusus seperti dana yang melayani pertahanan dan keamanan nasional. Delegasi juga mencatat bahwa Kecerdasan Buatan harus dikaitkan dengan kegiatan ekonomi dan inisiatif perusahaan, sehingga model manajemen perlu disederhanakan dan diarahkan pada efisiensi yang nyata.

Delegasi Majelis Nasional Bui Xuan Thong (Dong Nai)

Sependapat dengan pendapat di atas, anggota Dewan Perwakilan Rakyat Nguyen Thi Nhu Y dan Bui Xuan Thong (Dong Nai) juga menekankan kerangka etika dalam penggunaan kecerdasan buatan. Menurut delegasi Bui Xuan Thong, jika ditetapkan bahwa pengguna harus bertanggung jawab atas keputusan yang dibuat oleh AI, maka pada kenyataannya keputusan akhir tetaplah manusia. AI hanyalah alat untuk memberikan informasi referensi. Orang yang membuat keputusan akhir bertanggung jawab atas keputusan tersebut. Oleh karena itu, kerangka etika seharusnya berfokus pada tanggung jawab manusia dalam menggunakan informasi dari AI, bukan pada penetapan bahwa AI harus bertanggung jawab.

Terkait penanganan pelanggaran, para delegasi menyampaikan bahwa rancangan tersebut secara umum menyatakan bahwa pelanggaran dapat ditangani secara administratif, perdata, atau pidana, tetapi tidak menjelaskan batasan tanggung jawabnya. Oleh karena itu, disarankan untuk mendefinisikan secara jelas perilaku mana yang akan dikenakan tanggung jawab pidana, perilaku mana yang akan dikenakan tanggung jawab administratif, dan tanggung jawab spesifik penyedia, pengembang, dan pengguna. Pada saat yang sama, perlu juga melengkapi perilaku yang dilarang dan mendesain ulang kerangka kerja ini agar lebih jelas, baik untuk menciptakan kondisi yang mendukung pengembangan AI maupun untuk mendefinisikan secara jelas tanggung jawab pihak-pihak terkait.

Sumber: https://daibieunhandan.vn/kecerdasan-buatan-harus-beroperasi-dalam-sistem-hukum-dan-moral-10396524.html