Meneliti dan mengembangkan sistem kecerdasan buatan yang bertanggung jawab.

Menurut Kementerian Sains dan Teknologi , mengikuti tren umum di dunia, sistem kecerdasan buatan dinilai membawa manfaat besar bagi manusia, masyarakat, dan perekonomian Vietnam melalui dukungan dan penyelesaian masalah-masalah sulit yang dihadapi masyarakat dan komunitas. Sejalan dengan proses tersebut, penelitian dan langkah-langkah diperlukan untuk meminimalkan risiko dalam proses pengembangan dan penggunaan kecerdasan buatan, serta menyeimbangkan faktor-faktor ekonomi, etika, dan hukum terkait. Oleh karena itu, badan-badan khusus perlu meneliti dan mengembangkan standar serta pedoman sebagai panduan, meskipun peraturan tersebut bersifat lunak dan tidak mengikat.

Dalam pedoman tersebut, Kementerian Sains dan Teknologi menetapkan sembilan prinsip dalam penelitian dan pengembangan sistem kecerdasan buatan yang bertanggung jawab.

Pertama, semangat kerja sama dan promosi inovasi: Pengembang perlu mempertimbangkan konektivitas dan interoperabilitas antara sistem AI mereka dan sistem AI lainnya dengan mempertimbangkan keragaman sistem untuk meningkatkan manfaat sistem, sekaligus meningkatkan koordinasi untuk mengendalikan risiko.

Kedua, transparansi: Sistem kecerdasan buatan yang mematuhi prinsip ini seringkali merupakan sistem yang dapat memengaruhi kehidupan, tubuh, privasi, atau properti pengguna atau pihak ketiga terkait. Dalam hal ini, pengembang perlu memperhatikan kemampuan untuk mengidentifikasi masukan dan keluaran sistem secara jelas serta kemudahan penjelasannya berdasarkan karakteristik teknologi yang diterapkan dan bagaimana teknologi tersebut digunakan untuk memastikan kepercayaan masyarakat, termasuk pengguna.

Ketiga, keterkendalian: Untuk menilai risiko yang terkait dengan keterkendalian sistem, pengembang perlu melakukan penilaian awal untuk memastikan sistem memenuhi persyaratan dan standar teknis yang relevan. Salah satu metode penilaian risiko adalah dengan menguji sistem di ruang terpisah dengan langkah-langkah keamanan dan keselamatan sebelum menerapkannya secara praktis.

Keempat, prinsip keselamatan: Pengembang perlu memastikan bahwa sistem kecerdasan buatan tidak akan menyebabkan kerugian pada kehidupan, tubuh, atau properti pengguna atau pihak ketiga, termasuk melalui perantara.

5. Prinsip keamanan: Selain mematuhi dokumen, instruksi, dan menerapkan langkah-langkah keamanan informasi sebagaimana ditentukan, pengembang perlu memperhatikan poin-poin seperti: Keandalan dan ketahanan terhadap serangan fisik atau kecelakaan sistem; kerahasiaan; integritas; dan ketersediaan informasi yang diperlukan terkait dengan keamanan informasi sistem...

6. Privasi: Pengembang perlu memastikan bahwa sistem AI tidak melanggar privasi pengguna atau pihak ketiga. Privasi mencakup privasi spasial (ketenangan batin dalam kehidupan pribadi), privasi informasi (data pribadi), dan kerahasiaan komunikasi. Pengembang perlu menerapkan peraturan dan pedoman terkini; standar dan pedoman internasional tentang privasi dapat dikonsultasikan.

Pengembang harus melakukan pra-penilaian risiko privasi dan pra-penilaian dampak privasi. Sebisa mungkin, ambil langkah-langkah yang sesuai dengan karakteristik teknologi yang diterapkan di seluruh proses pengembangan sistem untuk menghindari pelanggaran privasi saat digunakan.

Ketujuh, penghormatan terhadap hak asasi manusia dan martabat: Ketika mengembangkan sistem kecerdasan buatan yang melibatkan manusia, pengembang harus sangat berhati-hati dalam menghormati hak asasi manusia dan martabat individu yang terlibat. Sebisa mungkin, tergantung pada karakteristik teknologi yang diterapkan, pengembang harus mengambil langkah-langkah untuk memastikan bahwa diskriminasi dan ketidakadilan akibat bias dalam data saat pelatihan sistem tidak terjadi.

Pengembang perlu mengambil tindakan pencegahan untuk memastikan bahwa sistem tidak melanggar nilai-nilai kemanusiaan dan etika sosial sesuai dengan prinsip-prinsip dasar Vietnam (misalnya, nilai-nilai termasuk patriotisme, solidaritas, kemandirian, kesetiaan, kejujuran, tanggung jawab, disiplin, kreativitas, dll.).

Kedelapan, dukungan pengguna: Untuk mendukung pengguna, pengembang sistem perlu memperhatikan beberapa hal seperti: Menciptakan antarmuka yang siap pakai untuk menyediakan informasi yang tepat waktu dan sesuai untuk membantu pengguna dalam mengambil keputusan dan menggunakannya dengan mudah; menerapkan berbagai langkah untuk membuat sistem lebih mudah digunakan bagi orang-orang yang rentan di masyarakat (lansia, penyandang cacat)...

9. Akuntabilitas: Pengembang perlu bertanggung jawab atas sistem yang mereka kembangkan untuk memastikan kepercayaan pengguna. Secara khusus, mereka perlu memberikan informasi kepada pengguna untuk membantu mereka memilih dan menggunakan sistem. Selain itu, untuk meningkatkan penerimaan sosial terhadap sistem, pengembang harus melakukan lebih banyak hal: Memberikan informasi dan deskripsi kepada pengguna mengenai spesifikasi teknis sistem yang mereka kembangkan, algoritma, mekanisme keamanan, dll.; mendengarkan pendapat dan berdialog dengan para pemangku kepentingan.

Sumber: https://nhandan.vn/nghien-cuu-phat-trien-cac-he-thong-tri-tue-nhan-tao-co-trach-nhiem-post814609.html