Menyelidik dan membangunkan sistem kecerdasan buatan yang bertanggungjawab.

Menurut Kementerian Sains dan Teknologi , mengikut trend umum di dunia, sistem kecerdasan buatan dinilai untuk membawa manfaat yang besar kepada manusia, masyarakat dan ekonomi Vietnam melalui menyokong dan menyelesaikan masalah sukar yang dihadapi oleh orang ramai dan masyarakat. Seiring dengan proses itu, adalah perlu untuk menyelidik dan mempunyai langkah untuk meminimumkan risiko dalam proses membangun dan menggunakan kecerdasan buatan dan mengimbangi faktor ekonomi, etika dan undang-undang yang berkaitan. Oleh itu, agensi khusus perlu menyelidik dan membangunkan piawaian dan garis panduan untuk membimbing, walaupun ia adalah peraturan yang lembut dan tidak mengikat.

Dalam garis panduan tersebut, Kementerian Sains dan Teknologi menetapkan sembilan prinsip dalam penyelidikan dan pembangunan sistem kecerdasan buatan yang bertanggungjawab.

Pertama, semangat kerjasama dan promosi inovasi: Pembangun perlu mempertimbangkan ketersambungan dan kebolehoperasian antara sistem AI mereka dan sistem AI lain dengan mempertimbangkan kepelbagaian sistem untuk meningkatkan faedah sistem, sambil meningkatkan koordinasi untuk mengawal risiko.

Kedua, ketelusan: Sistem kecerdasan buatan yang mematuhi prinsip ini selalunya merupakan sistem yang boleh menjejaskan nyawa, badan, privasi atau harta pengguna atau pihak ketiga yang berkaitan. Dalam kes ini, pembangun perlu memberi perhatian kepada keupayaan untuk mengenal pasti dengan jelas input dan output sistem serta kebolehjelasan yang berkaitan berdasarkan ciri-ciri teknologi yang digunakan dan bagaimana ia digunakan untuk memastikan kepercayaan masyarakat, termasuk pengguna.

Ketiga, kebolehkawalan: Untuk menilai risiko yang berkaitan dengan kebolehkawalan sistem, pembangun perlu menjalankan pra-penilaian sama ada sistem itu memenuhi keperluan dan piawaian teknikal yang berkaitan. Salah satu kaedah penilaian risiko ialah menguji di ruang berasingan dengan langkah keselamatan dan keselamatan sebelum menggunakannya secara praktikal.

Keempat, prinsip keselamatan: Pembangun perlu memastikan bahawa sistem kecerdasan buatan tidak akan menyebabkan kemudaratan kepada nyawa, badan atau harta pengguna atau pihak ketiga, termasuk melalui perantara.

5. Prinsip keselamatan: Selain mematuhi dokumen, arahan dan melaksanakan langkah keselamatan maklumat seperti yang ditetapkan, pembangun perlu memberi perhatian kepada perkara seperti: Kebolehpercayaan dan ketahanan terhadap serangan fizikal atau kemalangan sistem; kerahsiaan; integriti; dan ketersediaan maklumat yang diperlukan berkaitan dengan keselamatan maklumat sistem...

6. Privasi: Pembangun perlu memastikan bahawa sistem AI tidak melanggar privasi pengguna atau pihak ketiga. Privasi termasuk privasi spatial (ketenangan fikiran dalam kehidupan peribadi), privasi maklumat (data peribadi) dan kerahsiaan komunikasi. Pemaju perlu menggunakan peraturan dan garis panduan semasa; piawaian antarabangsa dan garis panduan mengenai privasi boleh dirujuk.

Pembangun harus menjalankan pra-penilaian risiko privasi dan menjalankan pra-penilaian kesan privasi. Setakat yang boleh, ambil langkah yang sesuai dengan ciri-ciri teknologi yang digunakan sepanjang proses pembangunan sistem untuk mengelakkan pelanggaran privasi apabila digunakan.

Ketujuh, menghormati hak dan maruah manusia: Apabila membangunkan sistem kecerdasan buatan yang melibatkan manusia, pembangun mesti mengambil perhatian khusus untuk menghormati hak asasi manusia dan maruah individu yang terlibat. Setakat yang mungkin, bergantung kepada ciri-ciri teknologi yang digunakan, pembangun harus mengambil langkah untuk memastikan bahawa ia tidak menyebabkan diskriminasi atau ketidakadilan akibat berat sebelah dalam data semasa melatih sistem.

Pemaju perlu mengambil langkah berjaga-jaga untuk memastikan sistem itu tidak melanggar nilai kemanusiaan dan etika sosial mengikut prinsip asas Vietnam (contohnya, nilai termasuk patriotisme, perpaduan, berdikari, kesetiaan, kejujuran, tanggungjawab, disiplin, kreativiti, dll.).

Ke-8, sokongan pengguna: Untuk menyokong pengguna, pembangun sistem perlu memberi perhatian kepada perkara seperti: Mencipta antara muka sedia untuk menyediakan maklumat yang tepat pada masanya dan sesuai untuk membantu pengguna membuat keputusan dan menggunakan dengan mudah; melaksanakan langkah-langkah untuk menjadikan sistem lebih mudah digunakan untuk orang yang terdedah dalam masyarakat (warga tua, orang kurang upaya)...

9. Akauntabiliti: Pembangun perlu bertanggungjawab terhadap sistem yang mereka bangunkan untuk memastikan kepercayaan pengguna. Secara khusus, mereka perlu menyediakan pengguna dengan maklumat untuk membantu mereka memilih dan menggunakan sistem. Di samping itu, untuk meningkatkan penerimaan sosial sistem, pembangun harus melakukan lebih banyak lagi: Menyediakan pengguna dengan maklumat dan penerangan tentang spesifikasi teknikal sistem yang mereka bangunkan, algoritma, mekanisme keselamatan, dsb.; mendengar pendapat dan dialog dengan pihak berkepentingan.

Sumber: https://nhandan.vn/nghien-cuu-phat-trien-cac-he-thong-tri-tue-nhan-tao-co-trach-nhiem-post814609.html