Mengusulkan beberapa kasus di mana pejabat tidak boleh menggunakan AI dalam menjalankan tugas resmi

Rancangan Undang-Undang Transformasi Digital yang sedang dikaji Kementerian Hukum dan HAM secara gamblang menyebutkan prinsip yang sangat ketat bagi pejabat, pegawai negeri sipil, pegawai negeri sipil, dan pekerja di lembaga negara saat menggunakan sistem AI dalam kegiatan pelayanan publik.

Menyimpan kata sandi resmi di perangkat atau sistem AI dilarang. Foto ilustrasi

Menurut Kementerian Sains dan Teknologi (lembaga yang menyusun dan mengajukan rancangan undang-undang), isu pengendalian ketat pengembangan dan penerapan AI, khususnya di sektor publik, untuk memastikan bahwa teknologi ini melayani pembangunan masyarakat yang berkelanjutan, sekaligus melindungi hak dan kepentingan sah masyarakat dan bisnis, harus "mematuhi undang-undang tentang teknologi digital , keselamatan, keamanan jaringan, keamanan data pribadi, memastikan penghormatan terhadap hak asasi manusia, sesuai dengan adat istiadat dan etika sosial yang baik, serta tidak berdampak negatif pada reputasi dan operasional lembaga dan organisasi".

Draf tersebut dengan jelas mencantumkan tindakan terlarang terkait AI dalam transformasi digital, yang bertujuan untuk melindungi orang dan organisasi dari potensi risiko teknologi ini.

Khusus untuk kader, pegawai negeri sipil, pegawai negeri sipil, dan pekerja pada lembaga negara dalam sistem politik dilarang menggunakan sistem AI untuk perbuatan: menggunakan AI untuk mengolah informasi yang termasuk dalam daftar rahasia negara; menggunakan data pribadi tanpa persetujuan yang bersangkutan; menggunakan informasi internal yang dapat mengganggu keamanan nasional dan ketertiban serta keselamatan sosial; melakukan perbuatan yang melanggar hukum (seperti penipuan, membuat informasi palsu, merusak sistem informasi, atau melakukan gangguan terhadap sistem informasi secara melawan hukum).

Menyimpan kata sandi resmi pada perangkat atau sistem AI, atau mengeksploitasi informasi AI di tempat umum dengan cara yang dapat mengungkap informasi, juga dilarang.

Selain itu, rancangan tersebut juga secara jelas mengatur hak-hak warga negara dalam masyarakat digital, meliputi hak untuk memilih, hak untuk memutuskan penggunaan layanan digital, hak untuk mengetahui, menjelaskan, dan campur tangan dalam keputusan otomatis algoritma yang memengaruhi hak dan kepentingan yang sah.

Rancangan undang-undang ini juga melarang praktik persaingan tidak sehat oleh platform digital dengan posisi pasar dominan, seperti penetapan harga yang tidak adil, diskriminasi, dan mengutamakan produk dan layanan platform untuk menekan bisnis lain, sehingga menciptakan lapangan bermain yang adil bagi bisnis.

Tn. Phuong

Sumber: https://www.sggp.org.vn/de-xuat-mot-so-truong-hop-can-bo-khong-su-dung-ai-trong-thuc-thi-cong-vu-post809754.html