Kecerdasan buatan mesti beroperasi dalam sempadan undang-undang dan etika.

Pagi ini, 21 November, membincangkan di Kumpulan 6 (termasuk Delegasi Perhimpunan Kebangsaan Lang Son, Dong Nai, Hue City) mengenai projek Undang-undang Kecerdasan Buatan, Timbalan Perhimpunan Kebangsaan berkata bahawa untuk menyelesaikan projek Undang-undang dengan matlamat mengurus dan mempromosikan penyelidikan dan pembangunan kecerdasan buatan di Vietnam, adalah perlu untuk menjelaskan isu-isu utama seperti: data input, skop pengguna, skop intelek, intelek dan tanggungjawab pengguna. etika...

Perlu mereka bentuk mekanisme tadbir urus AI yang moden dan segerak

Sambil menyatakan persetujuan mereka terhadap pendekatan merangka Undang-undang ini sebagai rangka kerja Undang-undang untuk mengurus dan menggalakkan penyelidikan, pembangunan, penggunaan dan penggunaan kecerdasan buatan di Vietnam, timbalan Dewan Negara amat menghargai penyediaan Kerajaan; draf dokumen Undang-undang telah dibina dengan terperinci, memastikan pematuhan kepada peraturan; pada masa yang sama, cadangan untuk memansuhkan beberapa artikel dan klausa berkaitan dalam Undang-undang Industri Teknologi Digital adalah perlu untuk mengelakkan pertindihan, mewujudkan asas undang-undang bersatu untuk mengurus dan mempromosikan pembangunan AI. Walau bagaimanapun, untuk menyiapkan projek Undang-undang ini, timbalan menteri meminta Jawatankuasa Penggubal untuk terus menyemak dan meminda, menambah dan memansuhkan beberapa artikel dan fasal dengan sewajarnya.

Adegan pertemuan Kumpulan 6 pada pagi 21 November. Foto: Ho Long

Khususnya, mengenai skop peraturan dan subjek yang berkenaan, Timbalan Dewan Negara Pham Trong Nghia (Lang Son) berkata bahawa adalah perlu untuk terus menjelaskan isu ini. Kerana pada masa ini, peruntukan berkaitan "aktiviti penyelidikan" dalam draf berisiko bertindih dengan kandungan yang telah dikawal oleh Undang-undang Sains , Teknologi dan Inovasi. Sementara itu, draf tersebut tidak mempunyai dasar khusus untuk mempromosikan penyelidikan mengenai sistem kecerdasan buatan, dan tidak mentakrifkan subjek yang melaksanakan aktiviti ini dengan jelas. Oleh itu, perwakilan mencadangkan menjelaskan aktiviti mana yang berada dalam skop pengawalseliaan Undang-undang, aktiviti mana yang berada di bawah Undang-undang semasa untuk memastikan kebolehlaksanaan, konsistensi dan mengelakkan pertindihan.

Timbalan Perhimpunan Kebangsaan Pham Trong Nghia ( Lang Son ) memberi ulasan mengenai draf Undang-undang Kepintaran Buatan. Foto: Ho Long

Mengenai penjelasan istilah, ahli Dewan Negara Pham Trong Nghia memberi perhatian khusus kepada konsep "penalaan halus" dalam model kecerdasan buatan tujuan umum. Wakil itu berkata, ini adalah istilah khusus, belum popular, jadi kandungannya perlu ditakrifkan dengan jelas bagi memudahkan penggunaan dan penguatkuasaan undang-undang itu nanti. Draf itu pada masa ini hanya menetapkan satu ayat mengenai Jawatankuasa Kebangsaan mengenai Kepintaran Buatan, yang tidak menunjukkan dengan jelas: kedudukan undang-undang; fungsi, tugas, kuasa; struktur organisasi, mekanisme operasi; hubungan dengan kementerian dan cawangan. Sehubungan itu, wakil itu mencadangkan menjelaskan keperluan penubuhan institusi ini, dan pada masa yang sama menilai kepatuhan dengan dasar memperkemas aparatus mengikut peraturan Parti. Sekiranya terus mengekalkannya, adalah perlu untuk menambah peraturan atau menugaskan Kerajaan untuk menyatakan isu-isu di atas secara terperinci.

Mengenai perbuatan terlarang, perwakilan berkata bahawa draf Undang-undang belum lagi menetapkan akta terlarang, manakala ini adalah "perisai undang-undang" yang penting untuk melindungi hak asasi manusia, memastikan persaingan yang adil dan mematuhi piawaian antarabangsa. Sementara itu, Undang-undang Kepintaran Buatan (AI) lanjutan dunia dengan jelas menetapkan tindakan yang dilarang seperti penyalahgunaan data peribadi, diskriminasi sistematik, penggunaan AI untuk tujuan berbahaya, dll. Oleh itu, adalah dicadangkan untuk menambah artikel berasingan mengenai perbuatan yang dilarang, berdasarkan prinsip: ketelusan, keselamatan, akauntabiliti, pengawasan manusia, keadilan, tanpa diskriminasi dan sokongan tanpa diskriminasi.

Perwakilan Dewan Negara Nguyen Thi Suu (Bandar Hue) bercakap pada sesi perbincangan kumpulan pada pagi 21 November. Foto: Ho Long

Ulasan mengenai draf Undang-undang, Timbalan Perhimpunan Negara Nguyen Thi Suu (Bandar Hue) memberi tumpuan kepada menganalisis peraturan yang berkaitan dengan infrastruktur, sumber manusia dan rangka kerja etika AI - tunjang utama yang menentukan keberkesanan pelaksanaan Undang-undang dalam amalan.

Khususnya, dalam Bab III (Perkara 17 dan 18) yang mengawal selia infrastruktur kecerdasan buatan, para perwakilan berkata bahawa pelan hala tuju untuk melaksanakan infrastruktur AI nasional, peranan kementerian, cawangan, lokaliti serta perusahaan dan institut penyelidikan dalam proses pembinaan dan operasi belum ditakrifkan dengan jelas. Perwakilan mencadangkan untuk menambah pelan pelaksanaan khusus dengan garis masa, tanggungjawab setiap agensi dan mekanisme pemantauan untuk memastikan kebolehlaksanaan apabila Undang-undang diisytiharkan.

Mengenai pembangunan sumber manusia (Perkara 24), perwakilan Nguyen Thi Suu berkata bahawa draf Undang-undang itu hanya menetapkan objektif, tetapi tidak mempunyai mekanisme sokongan sebenar untuk institusi latihan dan pelajar seperti pembiayaan, piawaian latihan antarabangsa atau program bersama dengan perniagaan dan institut penyelidikan. Oleh itu, adalah perlu untuk menambah dasar biasiswa, menyokong latihan dan menggalakkan perkongsian awam-swasta.

Mengenai Rangka Kerja Etika AI Kebangsaan (Perkara 27), perwakilan berkata bahawa peraturan semasa hanya berprinsip dan kekurangan mekanisme untuk memantau, menilai dan mengendalikan pelanggaran, menjadikannya sukar untuk memastikan terikat dalam amalan; pada masa yang sama, istilah "etika AI" tidak ditakrifkan dengan jelas dan tidak memberikan tanggungjawab khusus kepada organisasi dan individu apabila melanggar. Oleh itu, perwakilan mencadangkan untuk menukar frasa "semakan" kepada "awam" dalam peraturan mengemas kini rangka kerja etika; pada masa yang sama, menambah peruntukan mengenai penubuhan Pihak Berkuasa Etika AI Kebangsaan yang bertanggungjawab untuk memantau, menilai dan mengendalikan pelanggaran; menentukan kewajipan pematuhan untuk organisasi dan individu yang membangunkan atau mengendalikan sistem AI berisiko tinggi; mengesahkan nilai Rangka Kerja Etika AI yang mengikat secara sah, di mana pelanggaran boleh dikenakan sekatan pentadbiran atau jenayah; dan menggalakkan penyertaan organisasi sosial, ahli akademik dan perniagaan dalam aktiviti membina dan menilai etika AI. "Hanya apabila mekanisme di atas selesai, Rangka Kerja Etika AI boleh berkesan, memastikan teknologi berkembang ke arah yang betul, selamat dan untuk orang ramai," tegas perwakilan Nguyen Thi Suu.

Apakah tanggungjawab apabila AI membuat kesilapan?

Membincangkan draf Undang-undang mengenai Kepintaran Buatan, Timbalan Dewan Negara Pham Nhu Hiep (Bandar Hue) berkata bahawa kecerdasan buatan mencipta perubahan mendalam dalam bidang perubatan, daripada pembedahan, diagnosis kepada penyelidikan saintifik. Perwakilan itu menyebut bahawa pembedahan jarak jauh telah muncul selama lebih daripada 20 tahun, dan sehingga kini, banyak sistem robot mampu melakukan pembedahan endoskopik tanpa campur tangan manusia secara langsung. Dengan perkembangan pesat teknologi, jika dibenarkan, AI boleh mengambil alih sepenuhnya beberapa langkah pembedahan, malah mengancam untuk mengubah peranan tradisional pakar bedah. Dalam diagnosis pengimejan, AI telah digunakan secara meluas di hospital, termasuk Hospital Pusat Hue, menyokong bacaan sinar-X, imbasan CT dan filem otak.

Perwakilan Dewan Negara Pham Nhu Hiep (Bandar Hue) memberikan pendapatnya mengenai draf Undang-undang mengenai Kepintaran Buatan di Kumpulan 6. Foto: Ho Long

Walau bagaimanapun, perwakilan menekankan keperluan untuk akauntabiliti apabila AI membuat kesilapan. Pada masa ini, semua keputusan AI masih mesti disemak dan disahkan oleh doktor dan pakar radiologi. Apabila keputusan tidak sepadan dengan realiti klinikal, doktor akan mengedit dan mengemas kininya supaya AI boleh terus belajar. Proses "pembelajaran pasif" ini digunakan oleh banyak hospital, tetapi rangka kerja undang-undang yang jelas masih diperlukan untuk memastikan keselamatan pesakit.

Perwakilan Pham Nhu Hiep juga menyatakan kebimbangan tentang kesan AI terhadap penyelidikan saintifik, kerana perisian semakan plagiarisme telah menjadi popular dan beberapa alat AI kini boleh menulis hampir keseluruhan tesis kedoktoran dalam hanya satu hari berdasarkan data yang disediakan. Ini menimbulkan cabaran besar kepada etika penyelidikan dan integriti saintifik, dan harus dipertimbangkan untuk dimasukkan ke dalam peraturan undang-undang khusus.

Berkenaan dengan tanggungjawab undang-undang penyedia AI (Perkara 13), perwakilan mencadangkan untuk menjelaskan entiti yang bertanggungjawab apabila sistem AI menyebabkan insiden atau kemalangan. Kes kereta pandu sendiri adalah contoh biasa: jika perlanggaran berlaku, adalah perlu untuk menentukan tanggungjawab sistem, pengilang atau unit pengurusan operasi. Perwakilan itu memetik kemalangan kereta Tesla pada 2015 yang memaksa pengeluar membayar pampasan yang besar, menegaskan bahawa AI tidak boleh bertanggungjawab sendiri, tetapi tanggungjawab itu mesti dimiliki oleh manusia - organisasi dan individu yang mereka bentuk, menghasilkan dan menggunakan sistem itu.

Merujuk kepada konsep etika AI, yang digunakan oleh banyak negara untuk menentukan tindakan AI yang dibenarkan dan tidak dibenarkan untuk dilakukan, perwakilan Pham Nhu Hiep juga mengakui bahawa dalam konteks sistem AI yang mempunyai keupayaan untuk belajar sendiri, berfikir sendiri dan bahkan melampaui had asal pengeluar, pembangunan dan operasi AI mesti diletakkan dalam rangka kerja undang-undang dan etika. Ini bukan sahaja untuk memastikan keselamatan masyarakat tetapi juga untuk mewujudkan asas bagi pembangunan sihat industri AI di Vietnam.

Untuk mengurus AI dengan berkesan, data input dan harta intelek mesti dijelaskan.

Bersetuju dengan pendapat di atas, Timbalan Perhimpunan Negara Trinh Xuan An (Dong Nai) turut membuat satu siri ulasan mendalam berkaitan draf Undang-undang Kepintaran Buatan, memfokuskan kepada kumpulan utama isu: data input, harta intelek, skop aplikasi, pendekatan pengurusan risiko dan model organisasi pelaksanaan.

Perwakilan Dewan Negara Trinh Xuan An (Dong Nai) berucap di Kumpulan 6 pada pagi 21 November. Foto: Ho Long

Mengenai data input untuk AI, perwakilan berkata bahawa data adalah asas kecerdasan buatan, tetapi draf undang-undang belum menjelaskan kandungan ini. Peraturan mengenai data kini berada di bawah Undang-undang Data dan Undang-undang Perlindungan Data Peribadi. Jika tidak disebut secara khusus dalam undang-undang ini, sekurang-kurangnya mesti ada rujukan penuh. Perwakilan bersetuju dengan keperluan bahawa data mesti "betul - mencukupi - bersih - hidup", tetapi menekankan keperluan untuk menambah kriteria bahawa data mesti sistematik dan terus ditingkatkan, kerana ini adalah syarat untuk AI beroperasi dengan berkesan dan selamat.

Mengenai harta intelek, ahli Dewan Negara Trinh Xuan An mengulas bahawa kandungan draf itu masih terlalu samar, manakala AI ialah produk manusia dan berkait rapat dengan isu hak cipta, pemilikan, tanggungjawab undang-undang dan etika. Jika komponen harta intelek tidak dijelaskan dalam undang-undang, pengurusan AI akan menjadi sangat sukar. Oleh itu, perwakilan mengesyorkan meminda Undang-undang Harta Intelek dan pada masa yang sama mengawal selia isu pemilikan dalam undang-undang ini.

Mengenai skop permohonan, perwakilan menunjukkan ketidaklogisan dalam Perkara 1 apabila undang-undang mengecualikan penggunaan AI untuk pertahanan negara, keselamatan, kriptografi dan perisikan, tetapi klausa berikut membuka kemungkinan pelarasan jika sistem ini digunakan untuk tujuan lain. Dalam persekitaran digital, sukar untuk memisahkan AI untuk tujuan keselamatan dan pertahanan dan sivil, kerana AI boleh menyokong secara serentak dalam bidang perubatan, industri pertahanan atau sistem tanpa pemandu. Oleh itu, pengecualian mengikut medan tidak boleh dilaksanakan. Perwakilan mencadangkan membina rangka kerja kawal selia yang sama, bukannya membahagikan mengikut tujuan penggunaan.

Timbalan Perhimpunan Kebangsaan wilayah Dong Nai pada sesi perbincangan Kumpulan 6 pada pagi 21 November. Foto: Ho Long

Mengenai pendekatan pengurusan risiko dan klasifikasi, perwakilan itu berkata bahawa draf itu "menggunakan" model pengurusan Eropah, mewujudkan beban yang tidak perlu dalam konteks Vietnam yang perlu menggalakkan pembangunan AI. Klasifikasi risiko empat peringkat seperti dalam draf adalah rumit dan tidak konsisten dengan Undang-undang Kualiti Produk. Perwakilan mencadangkan untuk mengklasifikasikan hanya dua kumpulan: produk AI berisiko dan bebas risiko, dan menggabungkan pengurusan risiko dengan pengurusan berdasarkan kecekapan output dan impak ekonomi. Beliau juga berkata bahawa peraturan untuk perniagaan menilai sendiri risiko dan menugaskan Kerajaan untuk menetapkan kriteria adalah "separuh tertutup, separuh terbuka", sukar untuk dilaksanakan dalam amalan.

Mengenai model organisasi pelaksanaan, ahli Dewan Negara Trinh Xuan An menyatakan kebimbangan mengenai cadangan untuk menubuhkan dana kewangan tambahan dan Jawatankuasa Kebangsaan mengenai AI. Menurut perwakilan, adalah perlu untuk mempertimbangkan dengan teliti keperluan institusi ini, mengelakkan situasi "menubuhkan dana dan jawatankuasa untuk segala-galanya" tetapi dengan kecekapan yang rendah. Jika benar-benar perlu, dana AI harus disepadukan ke dalam dana sedia ada, kecuali untuk kes-kes khas seperti dana untuk pertahanan dan keselamatan negara. Perwakilan itu juga menyatakan bahawa AI mesti dikaitkan dengan aktiviti ekonomi dan inisiatif perusahaan, jadi model pengurusan perlu diperkemas dan berorientasikan ke arah kecekapan sebenar.

Perwakilan Dewan Negara Bui Xuan Thong (Dong Nai)

Bersetuju dengan pendapat di atas, timbalan Dewan Negara Nguyen Thi Nhu Y dan Bui Xuan Thong (Dong Nai) turut menekankan rangka kerja etika dalam penggunaan kecerdasan buatan. Menurut perwakilan Bui Xuan Thong, jika ditetapkan bahawa pengguna mesti bertanggungjawab terhadap keputusan yang dibuat oleh AI, maka pada hakikatnya keputusan muktamad masih manusia. AI hanyalah alat untuk menyediakan maklumat rujukan. Orang yang membuat keputusan muktamad bertanggungjawab untuk keputusan itu. Oleh itu, rangka kerja etika harus memberi tumpuan kepada tanggungjawab manusia dalam menggunakan maklumat daripada AI, bukan pada menetapkan bahawa AI mesti bertanggungjawab.

Mengenai isu pengendalian pelanggaran, perwakilan berkata bahawa draf itu secara amnya menyatakan bahawa ia boleh dikendalikan secara pentadbiran, sivil, atau jenayah, tetapi tidak jelas tentang had tanggungjawab. Oleh itu, adalah disyorkan untuk mentakrifkan dengan jelas tingkah laku yang akan tertakluk kepada tanggungjawab jenayah, tingkah laku yang akan tertakluk kepada tanggungjawab pentadbiran, dan tanggungjawab khusus penyedia, pembangun dan pengguna. Pada masa yang sama, ia juga perlu untuk menambah tingkah laku yang dilarang dan mereka bentuk semula rangka kerja ini supaya jelas, kedua-duanya untuk mewujudkan keadaan untuk pembangunan AI dan untuk mentakrifkan dengan jelas tanggungjawab pihak yang berkaitan.

Sumber: https://daibieunhandan.vn/artificial-intelligence-must-operate-in-the-law-and-moral-system-10396524.html