Penggunaan sistem AI untuk membuat konten palsu yang membahayakan keamanan nasional dilarang.

Pada sore hari tanggal 10 Desember, Majelis Nasional mengesahkan Undang-Undang tentang Kecerdasan Buatan dengan 429 dari 434 delegasi yang hadir memberikan suara mendukung (setara dengan 90,7% dari total jumlah delegasi Majelis Nasional).

Undang-Undang tentang Kecerdasan Buatan terdiri dari 8 bab dan 35 pasal, yang mengatur penelitian, pengembangan, penyediaan, penerapan, dan penggunaan sistem kecerdasan buatan; hak dan kewajiban organisasi dan individu terkait; serta pengelolaan negara atas kegiatan kecerdasan buatan di Vietnam. Kegiatan kecerdasan buatan semata-mata untuk tujuan pertahanan nasional, keamanan, dan kriptografi tidak tercakup dalam Undang-Undang ini.

Hasil pemungutan suara untuk mengesahkan Undang-Undang Kecerdasan Buatan. (Foto: DUY LINH)

4 prinsip fundamental dalam operasi kecerdasan buatan

Menurut undang-undang yang baru saja disahkan oleh Majelis Nasional, kegiatan kecerdasan buatan harus memastikan kepatuhan terhadap empat prinsip dasar, termasuk:

Menempatkan manusia sebagai pusat perhatian, menjamin hak asasi manusia, hak privasi, kepentingan nasional, kepentingan publik, dan keamanan nasional; serta berpegang teguh pada Konstitusi dan hukum.

Kecerdasan buatan melayani umat manusia, bukan menggantikan otoritas dan tanggung jawab manusia. Ia memastikan terjaganya kendali manusia dan kemampuan untuk campur tangan dalam semua keputusan dan perilaku sistem kecerdasan buatan; keamanan sistem, keamanan data, dan kerahasiaan informasi; serta kemampuan untuk memeriksa dan memantau perkembangan dan pengoperasian sistem.

Memastikan keadilan, transparansi, imparsialitas, non-diskriminasi, dan tidak membahayakan individu atau masyarakat; menjunjung tinggi standar etika dan nilai-nilai budaya Vietnam; serta bertanggung jawab atas keputusan dan konsekuensi dari sistem tersebut.

Mendorong pengembangan kecerdasan buatan yang ramah lingkungan, inklusif, dan berkelanjutan; mendorong pengembangan dan penerapan teknologi kecerdasan buatan yang hemat energi, hemat sumber daya, dan mengurangi dampak negatif terhadap lingkungan.

Mengklasifikasikan dan mengelola sistem AI berdasarkan risiko.

Undang-Undang Kecerdasan Buatan mengatur klasifikasi dan pengelolaan sistem kecerdasan buatan berdasarkan tiga tingkat risiko: tinggi, menengah, dan rendah.

Sistem kecerdasan buatan berisiko tinggi adalah sistem yang dapat menyebabkan kerugian signifikan terhadap kehidupan, kesehatan, hak dan kepentingan sah organisasi dan individu, kepentingan nasional, kepentingan publik, dan keamanan nasional;

Sistem kecerdasan buatan berisiko sedang adalah sistem yang berpotensi membingungkan, memengaruhi, atau memanipulasi pengguna karena mereka tidak mampu mengenali bahwa entitas yang berinteraksi tersebut adalah sistem kecerdasan buatan atau konten yang dihasilkannya;

Sistem kecerdasan buatan yang tersisa adalah sistem dengan risiko rendah.

Klasifikasi risiko sistem kecerdasan buatan ditentukan berdasarkan kriteria seperti tingkat dampak terhadap hak asasi manusia, keselamatan, dan keamanan; area penggunaan sistem, terutama area penting atau yang berhubungan langsung dengan kepentingan publik; ruang lingkup pengguna; dan skala pengaruh sistem.

Menteri Sains dan Teknologi Nguyen Manh Hung menyampaikan laporan tentang penerimaan, penjelasan, dan revisi rancangan Undang-Undang sebelum pemungutan suara Majelis Nasional. (Foto: DUY LINH)

Perilaku terlarang dalam operasi kecerdasan buatan

Undang-Undang Kecerdasan Buatan juga mengatur tindakan-tindakan terlarang dalam kegiatan kecerdasan buatan, khususnya:

Memanfaatkan atau membajak sistem kecerdasan buatan untuk melakukan tindakan ilegal dan melanggar hak serta kepentingan sah organisasi dan individu.

Mengembangkan, menyediakan, menyebarkan, atau menggunakan sistem kecerdasan buatan untuk tujuan: melakukan tindakan yang dilarang oleh hukum; menggunakan orang atau peristiwa nyata yang dipalsukan atau disimulasikan untuk menipu atau memanipulasi persepsi dan perilaku manusia secara sengaja dan sistematis, yang menyebabkan kerugian serius terhadap hak asasi manusia dan kepentingan yang sah; mengeksploitasi kelemahan kelompok rentan, termasuk anak-anak, lansia, penyandang disabilitas, minoritas etnis, atau orang dengan kapasitas sipil yang terganggu atau terbatas, atau mereka yang memiliki kesulitan kognitif atau masalah pengendalian perilaku, untuk membahayakan diri sendiri atau orang lain; membuat atau menyebarluaskan konten palsu yang mampu membahayakan keamanan nasional, ketertiban umum, dan keselamatan sosial secara serius.

Mengumpulkan, memproses, atau menggunakan data untuk mengembangkan, melatih, menguji, atau mengoperasikan sistem kecerdasan buatan yang melanggar hukum tentang data, perlindungan data pribadi, kekayaan intelektual, dan keamanan siber.

Menghalangi, menonaktifkan, atau mendistorsi mekanisme manusia untuk memantau, melakukan intervensi, dan mengendalikan sistem kecerdasan buatan sebagaimana diatur dalam Undang-Undang ini.

Menyembunyikan informasi yang harus diungkapkan, dipublikasikan, atau dijelaskan; menghapus atau memalsukan informasi, label, atau peringatan wajib dalam operasi kecerdasan buatan.

Memanfaatkan kegiatan penelitian, pengujian, evaluasi, atau verifikasi yang terkait dengan sistem kecerdasan buatan untuk melakukan tindakan yang melanggar hukum.

VAN TOAN

Sumber: https://nhandan.vn/cam-su-dung-he-thong-ai-tao-noi-dung-gia-mao-gay-nguy-hai-an-ninh-quoc-gia-post929261.html