Penggunaan sistem AI untuk mencipta kandungan palsu yang membahayakan keselamatan negara adalah dilarang.

Pada sebelah petang 10 Disember, Perhimpunan Kebangsaan meluluskan Undang-undang Kepintaran Buatan dengan 429 daripada 434 perwakilan yang hadir mengundi menyokong (bersamaan dengan 90.7% daripada jumlah keseluruhan perwakilan Dewan Negara).

Undang-undang Kepintaran Buatan terdiri daripada 8 bab dan 35 artikel, mengawal selia penyelidikan, pembangunan, penyediaan, penggunaan dan penggunaan sistem kecerdasan buatan; hak dan kewajipan organisasi dan individu yang berkaitan; dan pengurusan negeri bagi aktiviti kecerdasan buatan di Vietnam. Aktiviti kecerdasan buatan semata-mata untuk tujuan pertahanan negara, keselamatan dan kriptografi tidak dilindungi oleh Undang-undang ini.

Keputusan undian untuk meluluskan Undang-undang Kepintaran Buatan. (Foto: DUY LINH)

4 prinsip asas dalam operasi kecerdasan buatan

Menurut undang-undang yang baru-baru ini diluluskan oleh Dewan Negara, aktiviti kecerdasan buatan mesti memastikan pematuhan kepada empat prinsip asas, termasuk:

Meletakkan orang di tengah, memastikan hak asasi manusia, hak privasi, kepentingan negara, kepentingan awam dan keselamatan negara; berpegang kepada Perlembagaan dan undang-undang.

Kecerdasan buatan berfungsi untuk kemanusiaan, bukan menggantikan kuasa dan tanggungjawab manusia. Ia memastikan pengekalan kawalan manusia dan keupayaan untuk campur tangan dalam semua keputusan dan tingkah laku sistem kecerdasan buatan; keselamatan sistem, keselamatan data, dan kerahsiaan maklumat; dan keupayaan untuk memeriksa dan memantau pembangunan dan operasi sistem.

Memastikan keadilan, ketelusan, kesaksamaan, tanpa diskriminasi dan tidak membahayakan individu atau masyarakat; mematuhi piawaian etika dan nilai budaya Vietnam; dan bertanggungjawab terhadap keputusan dan akibat sistem.

Menggalakkan pembangunan kecerdasan buatan hijau, inklusif dan mampan; menggalakkan pembangunan dan aplikasi teknologi kecerdasan buatan yang cekap tenaga, penjimatan sumber dan mengurangkan kesan negatif terhadap alam sekitar.

Mengelaskan dan mengurus sistem AI berdasarkan risiko.

Undang-undang Kepintaran Buatan menetapkan klasifikasi dan pengurusan sistem kecerdasan buatan mengikut tiga tahap risiko: tinggi, sederhana dan rendah.

Sistem kecerdasan buatan berisiko tinggi ialah sistem yang boleh menyebabkan kemudaratan besar kepada nyawa, kesihatan, hak sah dan kepentingan organisasi dan individu, kepentingan negara, kepentingan awam dan keselamatan negara;

Sistem kecerdasan buatan berisiko sederhana ialah sistem yang berpotensi untuk mengelirukan, mempengaruhi atau memanipulasi pengguna kerana mereka tidak dapat mengenali bahawa entiti yang berinteraksi ialah sistem kecerdasan buatan atau kandungan yang dihasilkannya;

Sistem kecerdasan buatan yang selebihnya adalah sistem yang berisiko rendah.

Klasifikasi risiko sistem kecerdasan buatan ditentukan berdasarkan kriteria seperti tahap kesan terhadap hak asasi manusia, keselamatan dan keselamatan; kawasan penggunaan sistem, terutamanya kawasan penting atau yang berkaitan secara langsung dengan kepentingan awam; skop pengguna; dan skala pengaruh sistem.

Menteri Sains dan Teknologi Nguyen Manh Hung membentangkan laporan mengenai penerimaan, penjelasan dan penyemakan draf Undang-undang sebelum undian Dewan Negara. (Foto: DUY LINH)

Tingkah laku yang dilarang dalam operasi kecerdasan buatan

Undang-undang Kepintaran Buatan juga menetapkan tindakan yang dilarang dalam aktiviti kecerdasan buatan, khususnya:

Mengeksploitasi atau merampas sistem kecerdasan buatan untuk melakukan perbuatan yang menyalahi undang-undang dan melanggar hak dan kepentingan sah organisasi dan individu.

Membangunkan, menyediakan, menggunakan, atau menggunakan sistem kecerdasan buatan untuk tujuan: melakukan perbuatan yang dilarang oleh undang-undang; menggunakan orang atau kejadian sebenar yang dipalsukan atau disimulasikan untuk memperdaya atau memanipulasi persepsi dan tingkah laku manusia secara sengaja dan sistematik, menyebabkan kemudaratan serius kepada hak asasi manusia dan kepentingan sah; mengeksploitasi kelemahan kumpulan yang terdedah, termasuk kanak-kanak, orang tua, orang kurang upaya, etnik minoriti, atau orang yang mempunyai keupayaan sivil terjejas atau terhad, atau mereka yang mempunyai masalah kognitif atau masalah kawalan tingkah laku, untuk mencederakan diri mereka sendiri atau orang lain; mencipta atau menyebarkan kandungan palsu yang mampu membahayakan keselamatan negara, ketenteraman awam dan keselamatan sosial secara serius.

Mengumpul, memproses atau menggunakan data untuk membangunkan, melatih, menguji atau mengendalikan sistem kecerdasan buatan yang melanggar undang-undang mengenai data, perlindungan data peribadi, harta intelek dan keselamatan siber.

Menghalang, melumpuhkan, atau memutarbelitkan mekanisme manusia untuk memantau, campur tangan, dan mengawal sistem kecerdasan buatan seperti yang ditetapkan dalam Undang-undang ini.

Menyembunyikan maklumat yang mesti didedahkan, didedahkan kepada umum atau dijelaskan; memadam atau memalsukan maklumat mandatori, label atau amaran dalam operasi kecerdasan buatan.

Mengeksploitasi aktiviti penyelidikan, ujian, penilaian atau pengesahan yang berkaitan dengan sistem kecerdasan buatan untuk terlibat dalam tindakan yang melanggar undang-undang.

VAN TOAN

Sumber: https://nhandan.vn/cam-su-dung-he-thong-ai-tao-noi-dung-gia-mao-gay-nguy-hai-an-ninh-quoc-gia-post929261.html