Sebutkan beberapa contoh kasus di mana pejabat sebaiknya tidak menggunakan AI dalam menjalankan tugas mereka.

Rancangan Undang-Undang tentang Transformasi Digital, yang saat ini sedang ditinjau oleh Kementerian Kehakiman, menguraikan prinsip-prinsip yang sangat ketat bagi pejabat, pegawai negeri sipil, dan karyawan di lembaga negara ketika menggunakan sistem AI dalam tugas resmi mereka.

Menyimpan kata sandi resmi pada perangkat atau sistem AI dilarang. (Gambar ilustrasi)

Menurut Kementerian Sains dan Teknologi (lembaga yang menyusun dan mengajukan RUU tersebut), isu pengendalian ketat terhadap pengembangan dan penerapan AI, khususnya di sektor publik, untuk memastikan bahwa teknologi ini melayani pembangunan berkelanjutan masyarakat, sekaligus melindungi hak dan kepentingan sah warga negara dan bisnis, harus "mematuhi hukum tentang teknologi digital , keamanan siber, keamanan data pribadi, memastikan penghormatan terhadap hak asasi manusia, konsisten dengan adat dan tradisi, etika sosial, dan tidak berdampak negatif terhadap reputasi dan operasional lembaga dan organisasi."

Draf tersebut secara jelas mencantumkan perilaku terlarang terkait AI dalam transformasi digital, dengan tujuan melindungi individu dan organisasi dari potensi risiko teknologi ini.

Secara khusus, pejabat, pegawai negeri sipil, dan karyawan di lembaga negara dalam sistem politik dilarang menggunakan sistem AI untuk tindakan-tindakan berikut: menggunakan AI untuk memproses informasi yang diklasifikasikan sebagai rahasia negara; menggunakan data pribadi tanpa persetujuan subjek; menggunakan informasi internal yang dapat memengaruhi keamanan nasional atau ketertiban sosial; dan melakukan tindakan ilegal (seperti penipuan, membuat informasi palsu, mengganggu sistem informasi, atau secara ilegal mencampuri sistem informasi).

Menyimpan kata sandi resmi pada perangkat atau sistem AI, atau memanfaatkan informasi AI di tempat umum dengan cara yang dapat membocorkan informasi, juga dilarang keras.

Selain itu, rancangan tersebut juga secara jelas mendefinisikan hak-hak warga negara dalam masyarakat digital, termasuk hak untuk memilih, hak untuk memutuskan penggunaan layanan digital, hak untuk mengetahui, untuk mendapatkan penjelasan, dan untuk ikut campur dalam keputusan algoritmik otomatis yang memengaruhi hak dan kepentingan sah mereka.

Draf tersebut juga melarang praktik persaingan tidak sehat oleh platform digital dominan, seperti penetapan harga yang tidak adil, diskriminasi, dan memprioritaskan produk dan layanan platform untuk menekan bisnis lain, sehingga menciptakan persaingan yang adil bagi semua bisnis.

ANH PHUONG

Sumber: https://www.sggp.org.vn/de-xuat-mot-so-truong-hop-can-bo-khong-su-dung-ai-trong-thuc-thi-cong-vu-post809754.html