Projek Undang-undang Kecerdasan Buatan: Memperluas Tanggungjawab Etika kepada Sektor Swasta

Peraturan harus terbuka.

Meneruskan Sesi Kesepuluh, pada pagi 21 November, Perhimpunan Negara membincangkan secara berkumpulan Draf Undang-undang Kepintaran Buatan.

Memberi pendapat di Kumpulan 4 (termasuk delegasi Perhimpunan Kebangsaan dari wilayah Khanh Hoa , Lai Chau dan Lao Cai), perwakilan pada dasarnya bersetuju dengan keperluan untuk mengisytiharkan Undang-undang.

Kumpulan 4 (Lao Cai, Lai Chau, Khanh Hoa) — Perwakilan yang mengambil bahagian dalam perbincangan di Kumpulan 4 pada pagi 21 November. Foto: Ho Long

Menurut Timbalan Perhimpunan Kebangsaan Nguyen Huu Toan ( Lai Chau ), pengisytiharan Undang-undang Kepintaran Buatan (AI) pada masa ini adalah sangat perlu. "Kami telah membuat persiapan yang agak baik untuk mengemukakan undang-undang ini kepada Dewan Negara."

Timbalan Perhimpunan Negara Nguyen Thi Lan Anh (Lao Cai) berkata pada masa ini, sangat sedikit negara yang mengeluarkan Undang-undang Kepintaran Buatan, jadi rujukan dalam proses pengisytiharan Undang-undang itu juga terhad. Bagaimanapun, "itu tidak bermakna kita tidak boleh mengumumkannya", tegas perwakilan itu.

Bagaimanapun, perwakilan Nguyen Thi Lan Anh menyatakan bahawa pengisytiharan Undang-undang perlu mengambil kira faktor "keterbukaan", kerana teknologi sentiasa berkembang mengikut hari, mengikut jam. "Jika Undang-undang diisytiharkan dalam rangka kerja yang sempit, kami tidak akan dapat mempromosikan bidang teknologi inovatif tanpa berhati-hati."

Pertimbangkan peraturan Negeri untuk menjamin hak untuk menikmati faedah daripada kecerdasan buatan

Memberi ulasan khusus, perwakilan Nguyen Huu Toan berkata bahawa draf Undang-undang menetapkan subjek permohonan (Perkara 2) sebagai: Agensi, organisasi, individu dan organisasi asing dan individu Vietnam yang mempunyai aktiviti membangun, menyediakan, menggunakan dan menggunakan sistem kecerdasan buatan di Vietnam, atau mempunyai sistem kecerdasan buatan yang menghasilkan keputusan yang digunakan di Vietnam .

Walau bagaimanapun, skop peraturan (Klausa 2, Perkara 1) menetapkan: Undang-undang ini tidak terpakai kepada sistem kecerdasan buatan yang dibangunkan, disediakan, digunakan, dan digunakan secara eksklusif untuk tujuan pertahanan, keselamatan, risikan dan kriptografi.

Menurut perwakilan itu, pelaksanaan Undang-undang ini tetap perlu memastikan pertahanan dan keselamatan negara, kerana terdapat produk kecerdasan buatan yang disediakan dari luar sempadan ke Vietnam.

Timbalan Dewan Negara Nguyen Huu Toan (Lai Chau) bercakap. Foto: Ho Long

Oleh itu, draf Undang-undang seharusnya tidak menganggap "sistem kecerdasan buatan yang dibangunkan, disediakan, digunakan dan digunakan secara eksklusif untuk tujuan pertahanan, keselamatan, risikan dan kriptografi" sebagai titik pengecualian. Sebaliknya, ia harus dikawal selia ke arah bahawa penyelidikan, pembangunan, penyediaan, penempatan, dan penggunaan sistem kecerdasan buatan untuk tujuan pertahanan, keselamatan, risikan dan kriptografi hendaklah diserahkan kepada Kementerian Pertahanan Negara atau Kementerian Keselamatan Awam untuk bimbingan.

Juga dalam Fasal 2, Perkara 1 menetapkan: Undang-undang ini tidak terpakai kepada sistem kecerdasan buatan atau model kecerdasan buatan yang dibangunkan, disediakan, digunakan, dan digunakan hanya dalam skop dalaman penyelidikan saintifik, latihan, dan kemudahan pembangunan dan belum dimasukkan ke dalam eksploitasi atau diberikan kepada pihak ketiga.

Meluluskan bahawa sistem kecerdasan buatan yang digunakan dalam skop kemudahan penyelidikan tidak tertakluk kepada Undang-undang, perwakilan Nguyen Huu Toan menyatakan bahawa jika sistem itu melanggar undang-undang, ia mesti dikendalikan.

Sebenarnya, terdapat sistem dalaman yang sangat kecil tetapi juga sistem dalaman yang sangat besar. "Penggunaan dalaman mesti mematuhi syarat dan peraturan" dan Undang-undang mesti mempunyai peraturan, tegas perwakilan itu.

Draf Undang-undang secara khusus menetapkan lapan dasar Negara mengenai kecerdasan buatan (Perkara 5). Pada dasarnya bersetuju dengan dasar ini, perwakilan Nguyen Huu Toan mencadangkan bahawa beberapa perkara perlu dijelaskan.

Secara khusus, Fasal 3, Perkara 5 menetapkan: Negara memastikan hak organisasi dan individu untuk mengakses, belajar dan menikmati faedah daripada kecerdasan buatan; menggalakkan pembangunan masyarakat digital yang komprehensif dan inklusif.

Menurut perwakilan itu, adalah wajar bagi Negara untuk menjamin hak untuk mengakses kecerdasan buatan. Walau bagaimanapun, untuk menikmati faedah kecerdasan buatan, pengguna juga mesti membelanjakan wang mereka sendiri untuk melabur dan mengaplikasikannya dalam persekitaran pengeluaran dan perniagaan...; Negara tidak berkewajipan untuk menjamin sepenuhnya perkara ini. Oleh itu, adalah perlu untuk menyemak semula peraturan ini dengan sewajarnya.

Mengenai tahap risiko sistem kecerdasan buatan, Artikel 7 draf Undang-undang membahagikannya kepada 4 jenis: risiko yang tidak boleh diterima; berisiko tinggi; risiko sederhana; risiko rendah.

Bersetuju dengan klasifikasi ini, bagaimanapun, menurut perwakilan Nguyen Huu Toan, aplikasi dalam amalan kepada kumpulan sasaran yang berbeza adalah berbeza. Sebagai contoh, terdapat jenis risiko sederhana yang tidak menjejaskan orang dewasa tetapi memberi kesan kepada kanak-kanak; atau di kawasan dengan keadaan akses yang lebih teruk, ia menjadi berisiko tinggi...

Oleh itu, perwakilan mencadangkan bahawa setiap jenis risiko harus ditakrifkan dengan jelas dan digunakan untuk setiap subjek dan mesti ada amaran, contohnya, terdapat payung berisiko rendah yang hanya diberikan kepada orang dewasa, bukan kanak-kanak.

Membina sistem pemantauan dan amaran kejadian

Satu isu yang sangat diminati oleh perwakilan ialah berkaitan pengurusan dan pengendalian insiden kecerdasan buatan. Draf Undang-undang mentakrifkan: Insiden serius ialah insiden teknikal dalam aktiviti kecerdasan buatan yang menyebabkan atau mengancam untuk menyebabkan akibat yang serius kepada kehidupan manusia, kesihatan, harta benda, data, keselamatan atau ketenteraman sosial.

Perwakilan Nguyen Thi Lan Anh menganalisis bahawa dalam bidang perubatan terdapat banyak tahap yang berbeza, dan begitu juga keselamatan.

Timbalan Dewan Negara Nguyen Thi Lan Anh (Lao Cai) — Perwakilan Dewan Negara Nguyen Thi Lan Anh (Lao Cai) berucap. Foto: Ho Long

"Jadi apakah proses untuk menilai kejadian ini? Pihak mana, mekanisme mana yang akan memberitahu? Kerana ada beberapa perkara yang sangat berbahaya apabila ia ditemui selepas kejadian berlaku. Terutama dalam bidang perubatan, yang berkaitan secara langsung dengan kehidupan manusia."

Membangkitkan isu seperti itu, perwakilan Nguyen Thi Lan Anh berkata bahawa kita mesti mereka bentuk sistem proses. Pertama sekali, kita mesti bercakap tentang proses pemprosesan, siapa yang mengendalikannya dan pada tahap apakah akan ada amaran? Kedua, mesti ada sistem pemantauan dan amaran awal. Ini sangat penting dan jika kita mahu amaran awal, kita mesti memastikan data input.

Juga menurut perwakilan Nguyen Thi Lan Anh, isu tanggungjawab mestilah sangat jelas: adakah ia tanggungjawab pembangun model, atau agensi pengurusan, atau pengguna akhir?

Secara ringkasnya, menurut perwakilan, adalah perlu untuk mengklasifikasikan dan mentakrifkan jenis insiden kecerdasan buatan tertentu. Membina sistem pemantauan dan amaran untuk insiden; menentukan proses pengendalian mengikut setiap kumpulan tahap risiko, meningkatkan sokongan teknikal dan undang-undang pihak berkaitan; dan lebih jelas tentang tanggungjawab undang-undang yang berkaitan dengan mekanisme pampasan. Ini akan memastikan keselamatan dan keselamatan rangkaian.

Fasal 2, Perkara 10 draf Undang-undang menetapkan: Apabila sistem kecerdasan buatan mengalami insiden serius, pembangun sistem, pembekal, dan pihak yang melaksanakan sistem kecerdasan buatan hendaklah bertanggungjawab untuk: a) Pembangun sistem dan pembekal mesti segera menggunakan langkah teknikal untuk membetulkan, menggantung, atau membatalkan sistem, dan memberitahu pihak berkuasa yang berwibawa; b) Pihak pelaksana dan pengguna hendaklah bertanggungjawab untuk merekod dan memaklumkan kejadian dengan segera dan menyelaraskan dalam proses pemulihan.

Delegasi Lao Cai — Perwakilan yang menghadiri sesi perbincangan pagi pada 21 November. Foto: Ho Long

"Jadi bagaimana jika kejadian itu kurang serius?". Mempersoalkan soalan ini, perwakilan Nguyen Huu Toan mencadangkan agar ada amaran, bukannya menunggu sehingga ia menjadi serius sebelum mengendalikannya. Kerana dalam aplikasi kecerdasan buatan, jika insiden berlaku pada tahap yang serius, kelajuan penyebaran adalah sangat cepat dan sangat besar.

Perwakilan Nguyen Huu Toan mencadangkan bahawa di bawah tahap ini, perlu ada amaran untuk pengguna dan pembekal. "Memantau dan menyemak penggunaan kecerdasan buatan adalah amat penting pada masa akan datang untuk memastikan keselamatan, ketenteraman, keselamatan sosial, serta kebahagiaan untuk semua orang," tambah perwakilan itu.

Mengenai isu etika dalam kecerdasan buatan, draf Undang-undang menetapkan dengan jelas rangka kerja etika kecerdasan buatan nasional (Perkara 27) dan tanggungjawab etika serta penilaian impak apabila menggunakan kecerdasan buatan dalam sektor awam (Perkara 28).

“Jadi, bagaimanakah ia dikira untuk sektor swasta atau kawasan lain yang memberi kesan kepada orang ramai atau agensi dan dasar lain?”

Perwakilan Nguyen Thi Lan Anh mencadangkan bahawa adalah perlu untuk memperluaskan tanggungjawab etika kepada sektor swasta dan menghendaki perniagaan membangunkan kod etika dalaman secara terbuka; jelas membezakan prinsip etika dan kewajipan undang-undang untuk memastikan konsistensi dan kebolehlaksanaan dalam aplikasi.

Pada masa yang sama, draf Undang-undang perlu menambah prinsip etika asas seperti: menghormati orang, keadilan, ketelusan dan mewujudkan mekanisme penilaian kesan mandatori untuk sistem kecerdasan buatan berisiko tinggi.

Sumber: https://daibieunhandan.vn/du-an-luat-tri-tue-nhan-tao-mo-rong-trach-nhiem-dao-duc-sang-khu-vuc-tu-nhan-10396512.html