Kerangka hukum untuk kecerdasan buatan

Kecerdasan buatan (AI) dipandang sebagai kekuatan pendorong pembangunan ekonomi di Vietnam. Namun, di samping keuntungan yang dibawa AI, terdapat pula tantangan sosial dan hukum.

Vietnam saat ini berada di era keemasan pengembangan AI, tetapi masih banyak pekerjaan yang harus dilakukan untuk menerapkan AI secara efektif. Foto: MH

Sesuai dengan usulan Pemerintah, pengembangan industri teknologi digital , dengan fokus pada perusahaan teknologi digital Vietnam, secara bertahap akan bergeser dari perakitan dan pengolahan ke inovasi, desain, integrasi, produksi, dan penguasaan teknologi inti di Vietnam; berkontribusi pada pembangunan pemerintahan digital dan mendorong pengembangan ekonomi dan masyarakat digital. AI merupakan salah satu teknologi digital yang paling penting. Oleh karena itu, rancangan Undang-Undang tentang Industri Teknologi Digital menetapkan prinsip-prinsip untuk mengelola dan mengembangkan AI.

AI yang melayani kemakmuran dan kesejahteraan manusia harus memastikan transparansi dan akuntabilitas, keadilan dan non-diskriminasi, penghormatan terhadap nilai-nilai etika dan kesejahteraan manusia, perlindungan privasi, akses inklusif, keamanan dan privasi, kemampuan pengendalian, manajemen berbasis risiko, inovasi yang bertanggung jawab, dan dorongan untuk kerja sama internasional.

Namun, bagaimana memanfaatkan kekuatan AI sekaligus mengurangi dampak negatifnya merupakan hal yang perlu dianalisis untuk mengembangkan metode manajemen yang efektif. Ini juga merupakan pertanyaan yang mendapat perhatian luas di masyarakat saat ini, dalam konteks perkembangan pesat Revolusi Industri Keempat.

Terkait masalah ini, Komite Ilmu Pengetahuan , Teknologi dan Lingkungan Majelis Nasional menilai bahwa peraturan yang dirancang dalam Undang-Undang tersebut pada dasarnya masuk akal. Namun, beberapa pendapat menyarankan bahwa diperlukan studi komprehensif untuk membahas masalah kepemilikan dan hak milik serta hak pribadi yang berkaitan dengan data; dan masalah penghormatan terhadap hak cipta guna mengembangkan undang-undang terpisah tentang AI di Vietnam.

Bapak Le Quang Huy, Ketua Komite Ilmu Pengetahuan, Teknologi, dan Lingkungan Majelis Nasional, meyakini bahwa saat ini, Vietnam membutuhkan kerangka hukum untuk mengatur AI guna mengembangkan kekuatan dan keunggulannya sekaligus membatasi dampak negatif pada penelitian, penerapan, dan pengembangan teknologi AI. Beliau juga mengusulkan penelitian dan penambahan regulasi untuk mengurangi risiko dan dampak teknologi AI terhadap kehidupan ekonomi dan sosial, seperti prinsip-prinsip etika; penelitian dan pengembangan AI yang dibuat di Vietnam; mengizinkan perusahaan dengan proyek penelitian kecerdasan buatan untuk menggunakan data dari lembaga negara; dan mengatur tingkat penerapan AI di lembaga negara menggunakan solusi yang dikembangkan oleh perusahaan dalam negeri untuk mendorong penggunaan dan menciptakan pasar.

Anggota Majelis Nasional Vu Thi Lien Huong (delegasi Quang Ngai) menyampaikan pandangan bahwa perlu ditambahkan tindakan-tindakan terlarang khusus terkait kekayaan intelektual dalam pengembangan, penyediaan, dan penggunaan sistem AI, dengan arah "melarang penggunaan produk yang dilindungi hak kekayaan intelektual tanpa izin, dan melarang penggunaan gambar identifikasi biometrik dan suara pribadi tanpa izin."

Anggota Majelis Nasional Sung A Lenh (Delegasi Lao Cai) juga menyampaikan keprihatinannya mengenai manajemen risiko untuk sistem AI sebagaimana diatur dalam Pasal 1 dan 2 Ayat 65. Menurut Pasal 1 rancangan Undang-Undang tersebut, "Sistem AI yang mampu menimbulkan risiko dan kerugian terhadap kesehatan, keselamatan, hak, dan kepentingan sah organisasi dan individu merupakan sistem AI berisiko tinggi, kecuali sebagaimana diatur dalam Pasal 3 Ayat ini." Pasal 2 rancangan Undang-Undang tersebut menetapkan bahwa "Sistem AI dengan potensi dampak tinggi adalah sistem AI dengan cakupan dampak yang besar, jumlah pengguna yang besar, dan jumlah komputasi kumulatif yang besar yang digunakan untuk pelatihan." Namun, Bapak Lenh menilai bahwa ketentuan dalam Pasal 1 dan 2 tidak secara jelas mendefinisikan risiko dan kerugian terhadap kesehatan, keselamatan, hak, dan kepentingan sah organisasi dan individu. Pada saat yang sama, belum ada batasan spesifik yang ditetapkan mengenai cakupan dampak, jumlah pengguna, dan jumlah data komputasi yang dibutuhkan untuk pelatihan.

“Peraturan dalam rancangan Undang-Undang tersebut tidak jelas dan tidak konsisten dengan standar manajemen AI yang saat ini diterapkan di seluruh dunia, sehingga mudah menimbulkan kesulitan dalam implementasi. Oleh karena itu, perlu untuk mendefinisikan secara jelas kriteria untuk sistem AI berisiko tinggi dan sistem AI yang berpotensi berdampak tinggi; atau membatasi ruang lingkup sistem AI berisiko tinggi pada sistem AI canggih dan kompleks tertentu yang dapat menimbulkan dampak signifikan. Lebih lanjut, rancangan Undang-Undang tersebut tidak mencakup ketentuan yang memberikan hak kepada penyedia dan pelaksana sistem AI untuk menolak permintaan yang tidak wajar atau mengganggu guna menghindari hambatan, pemborosan sumber daya manusia, dan biaya ekonomi. Oleh karena itu, perlu untuk mempelajari dan mempertimbangkan kelayakan penerapan kewajiban pemantauan dan pengawasan sistem pada setiap jenis bisnis yang mengembangkan sistem AI,” saran Bapak Lềnh.

Terkait manajemen risiko dalam penerapan AI, Delegasi Majelis Nasional Nguyen Phuong Tuan (Delegasi Kien Giang) menyatakan bahwa, di era sekarang ini, di samping manfaat yang dibawa oleh AI, pengelolaan perkembangan teknologi ini sangatlah penting.

Dengan menyebutkan dua pendekatan untuk mengelola AI di seluruh dunia – berbasis risiko dan berbasis otoritas – Bapak Tuan setuju dengan pendekatan yang diusulkan oleh Pemerintah dalam rancangan undang-undang untuk mengelola risiko yang ditimbulkan oleh AI. Ini berarti mengelola risiko yang terkait dengan AI secara ketat, tetapi pada tingkat dan derajat yang berbeda. Bapak Tuan juga menyarankan perlunya meneliti dan mengembangkan kerangka kerja etika untuk penggunaan dan perilaku AI.

Rancangan Undang-Undang tentang Industri Teknologi Digital akan dibahas di Majelis Nasional pada tanggal 30 November.

"

Bapak Le Quang Huy, Ketua Komite Ilmu Pengetahuan, Teknologi, dan Lingkungan Majelis Nasional, meyakini bahwa saat ini, Vietnam membutuhkan kerangka hukum untuk mengatur AI agar dapat mengembangkan kekuatan dan keunggulannya sekaligus membatasi dampak negatif dalam penelitian, penerapan, dan pengembangan teknologi AI. Beliau juga menyarankan untuk meneliti dan menambahkan peraturan untuk mengurangi risiko dan dampak teknologi AI terhadap kehidupan ekonomi dan sosial, seperti prinsip-prinsip etika; dan peraturan tentang penelitian dan pengembangan AI yang dibuat di Vietnam.

Sumber: https://daidoanket.vn/khung-phap-ly-cho-tri-tue-nhan-tao-10295163.html