Pertimbangan tambahan untuk memastikan manajemen risiko yang lebih komprehensif untuk kecerdasan buatan

Pada pagi hari tanggal 26 April, di kantor pusat lembaga Majelis Nasional - 22 Hung Vuong, Hanoi, Komite Tetap Komite Sains, Teknologi, dan Lingkungan mengadakan lokakarya untuk menyumbangkan gagasan guna menyempurnakan rancangan Undang-Undang tentang Industri Teknologi Digital. Oleh karena itu, para delegasi mengusulkan dan mempertimbangkan ketentuan tambahan untuk memastikan manajemen risiko yang lebih komprehensif bagi kecerdasan buatan dan agar otoritas lokal dapat dikonsultasikan selama proses persetujuan pengujian.

Wakil Ketua Komite Sains, Teknologi, dan Lingkungan Hidup, Nguyen Phuong Tuan, memimpin lokakarya tersebut. Lokakarya ini dihadiri oleh Wakil Menteri Sains dan Teknologi ; perwakilan dari Kementerian Keamanan Publik, Keuangan, Kehakiman, Pendidikan, dan Pelatihan; perusahaan-perusahaan di bidang industri teknologi digital, para pakar, dan ilmuwan.

Rancangan Undang-Undang tentang Industri Teknologi Digital terdiri dari 7 bab dan 57 pasal. Rancangan Undang-Undang ini disusun berdasarkan pewarisan secara selektif ketentuan-ketentuan yang relevan dari Undang-Undang tentang Teknologi Informasi dan dokumen-dokumen yang memandu penyelenggaraan industri teknologi informasi; konsisten dengan sistem hukum yang berlaku di bidang investasi, keuangan, ilmu pengetahuan, dan teknologi, serta disinkronkan dengan rancangan undang-undang terkait untuk memastikan kesatuan dan sinkronisasi dalam sistem hukum, sehingga memudahkan implementasi dan penerapannya.

Rancangan Undang-Undang Industri Teknologi Digital disusun dengan saksama mengikuti kelompok kebijakan yang telah disetujui secara bulat oleh Pemerintah: Kegiatan industri teknologi digital, produk dan layanan teknologi digital; Memastikan pengembangan industri teknologi digital. Rancangan Undang-Undang ini menunjukkan perspektif baru dan lebih drastis dalam pendekatan pengembangan Industri Teknologi Digital di Vietnam, terutama dengan kebijakan preferensial yang unggul bagi investor asing, serta kebijakan bagi perusahaan domestik untuk berpartisipasi dalam bidang ini dengan banyak peluang. Dengan amandemen penting, banyak pakar, perwakilan asosiasi dan perusahaan berharap bahwa Vietnam dapat menjadi tujuan utama di Asia Tenggara bagi investor teknologi digital. Untuk mewujudkan harapan ini, Vietnam harus memperkuat dan menciptakan kondisi untuk menarik investasi dalam mengembangkan industri teknologi digital.

Adegan konferensi.

Memastikan manajemen risiko yang lebih komprehensif untuk AI

Pada lokakarya tersebut, para delegasi berfokus pada kontribusi terhadap regulasi tentang mekanisme pengujian terkendali produk dan layanan yang menerapkan teknologi digital dan kecerdasan buatan (AI) yang diusulkan dalam rancangan Undang-Undang.

Saat ini, AI sedang gencar dipromosikan di banyak negara dengan potensi penerapannya di berbagai bidang dan industri, serta terus menciptakan produk-produk baru. Namun, sistem AI berisiko tinggi adalah sistem AI yang dapat menimbulkan risiko dan bahaya serius bagi kesehatan manusia, hak asasi manusia dan kepentingan umum, serta ketertiban dan keamanan sosial. Oleh karena itu, berdasarkan situasi aktual, kementerian dan lembaga mengembangkan dan menerbitkan pedoman etika untuk pengembangan, penerapan, dan penggunaan sistem kecerdasan buatan di bidangnya masing-masing.

Ibu Chu Thi Hoa, Wakil Direktur Institut Strategi dan Ilmu Hukum, Kementerian Kehakiman, mengatakan bahwa dalam pengembangan, penyediaan, dan penggunaan AI, fleksibilitas dan adaptabilitas perlu dipastikan; dievaluasi, direvisi, dan dilengkapi secara berkala agar dapat segera memenuhi kebutuhan praktis. Pada saat yang sama, AI harus beragam dan inklusif, serta dapat menjangkau semua bidang secara luas, karena di masa mendatang, pengembangan, penerapan, dan penggunaan AI akan semakin beragam.

Rancangan Undang-Undang Industri Teknologi Digital telah menetapkan tindakan terlarang dalam Pasal 11 (termasuk tindakan yang berkaitan dengan AI). Namun, menurut Ibu Chu Thi Hoa, Panitia Perancang Undang-Undang perlu memperhatikan bahwa selain menetapkan tindakan terlarang, perlu juga menambahkan ketentuan pembatasan hak, dengan mempertimbangkan jenis tindakan yang hanya dapat dilakukan dalam kondisi tertentu (misalnya, penggunaan AI berisiko tinggi). Ketentuan pembatasan hak untuk mematuhi Pasal 2, Pasal 14 UUD 2013 perlu dituangkan dalam dokumen hukum. Oleh karena itu, Panitia Perancang Undang-Undang perlu mempertimbangkan penambahan ketentuan untuk memastikan manajemen risiko AI yang lebih menyeluruh.

Pihak berwenang setempat dapat diajak berkonsultasi selama proses persetujuan uji coba.

Menanggapi mekanisme pengujian terkendali yang diusulkan dalam Rancangan Undang-Undang Industri Teknologi Digital, Bapak Nguyen Duc Lam dari Institut Penelitian Kebijakan dan Pengembangan Media - IPS, mengatakan bahwa alih-alih diberi wewenang untuk menyetujui mekanisme pengujian, pemerintah daerah dapat mendukung bisnis yang berpartisipasi dalam mekanisme pengujian tersebut, seperti pendanaan, fasilitasi pembangunan, pengembangan kemitraan, insentif pajak, atau pembentukan pusat inovasi lokal yang beroperasi secara paralel dengan inisiatif sandbox nasional. Pemerintah daerah dapat diajak berkonsultasi dalam proses persetujuan pengujian, terutama jika inovasi bisnis tersebut penting bagi daerah, seperti di kota pintar atau inisiatif teknologi keuangan lokal.

Badan penyusun rancangan Undang-Undang ini dapat menambahkan ketentuan berikut mengenai tanggung jawab Kementerian, lembaga setingkat kementerian, dan Komite Rakyat provinsi (jika ada). Selain itu, perlu untuk mempublikasikan informasi mengenai prosedur dan mekanisme pengujian; dokumen panduan; titik kontak Kementerian, lembaga setingkat kementerian, dan Komite Rakyat provinsi di Portal Informasi Elektronik agar pelaku usaha dapat dengan mudah mencari, mempelajari, dan menghubunginya. Tanggung jawab lembaga negara adalah untuk menjelaskan kepada publik ketika pelaku usaha yang berpartisipasi dalam mekanisme pengujian menyebabkan kerugian yang signifikan bagi konsumen atau gagal; menerbitkan laporan transparan yang merinci kinerja dan hasil pengujian.

Bagi pelaku usaha, mereka dapat mengajukan keluhan atau gugatan hukum terhadap badan pengawas jika mereka yakin badan tersebut tidak menjalankan tugasnya dengan baik. Misalnya, jika badan tersebut bertindak sewenang-wenang, mengabaikan aturan; tidak memberikan panduan yang memadai dan benar, sehingga merugikan usaha; menunda peninjauan dan persetujuan, sehingga merugikan usaha; atau melakukan diskriminasi dalam proses persetujuan dan pengawasan.

Menutup lokakarya, Wakil Ketua Komite Sains, Teknologi, dan Lingkungan Hidup, Nguyen Phuong Tuan, menegaskan pentingnya kontribusi terhadap regulasi mekanisme pengujian terkendali produk dan layanan yang menerapkan teknologi digital dan AI yang diusulkan dalam Rancangan Undang-Undang Industri Teknologi Digital. Masukan dari lokakarya ini merupakan dasar penting bagi lembaga perancang dan lembaga peninjau untuk menyempurnakan rancangan undang-undang tersebut sebelum diajukan kepada Majelis Nasional untuk dipertimbangkan dan dibahas pada sidang ke-9 mendatang.

Menurut Portal Informasi Elektronik Majelis Nasional Vietnam

Sumber: https://mst.gov.vn/xem-xet-bo-sung-de-dam-bao-day-du-hon-ve-quan-ly-rui-ro-doi-voi-tri-tue-nhan-tao-197251101210619706.htm