Meneliti dan mengembangkan sistem kecerdasan buatan yang bertanggung jawab.

[iklan_1]

Menurut Kementerian Sains dan Teknologi , mengikuti tren umum di dunia, sistem kecerdasan buatan dinilai membawa manfaat besar bagi manusia, masyarakat, dan perekonomian Vietnam melalui dukungan dan penyelesaian masalah-masalah sulit yang dihadapi masyarakat dan komunitas. Sejalan dengan proses tersebut, penelitian dan langkah-langkah diperlukan untuk meminimalkan risiko dalam proses pengembangan dan penggunaan kecerdasan buatan, serta menyeimbangkan faktor-faktor ekonomi, etika, dan hukum terkait. Oleh karena itu, badan-badan khusus perlu meneliti dan mengembangkan standar serta pedoman orientasi, meskipun peraturan tersebut bersifat lunak dan tidak mengikat.

Dalam pedoman tersebut, Kementerian Sains dan Teknologi menetapkan sembilan prinsip untuk penelitian dan pengembangan sistem kecerdasan buatan yang bertanggung jawab.

Pertama, adalah semangat kerja sama, yang mendorong inovasi: Pengembang perlu mempertimbangkan konektivitas dan interoperabilitas antara sistem kecerdasan buatan mereka dan sistem kecerdasan buatan lainnya dengan mempertimbangkan keberagaman sistem untuk meningkatkan manfaat sistem, sekaligus meningkatkan koordinasi untuk mengendalikan risiko.

Kedua, transparansi: Sistem AI yang mematuhi prinsip ini seringkali merupakan sistem yang dapat memengaruhi kehidupan, tubuh, privasi, atau properti pengguna atau pihak ketiga terkait. Dalam hal ini, pengembang perlu memperhatikan kemampuan untuk mengidentifikasi input dan output sistem secara jelas serta kemudahan penjelasannya berdasarkan karakteristik teknologi yang diterapkan dan bagaimana teknologi tersebut digunakan untuk memastikan kepercayaan masyarakat, termasuk pengguna.

Ketiga, keterkendalian: Untuk menilai risiko yang terkait dengan keterkendalian sistem, pengembang perlu melakukan penilaian awal untuk memastikan sistem memenuhi persyaratan dan standar teknis yang relevan. Salah satu metode penilaian risiko adalah dengan menguji sistem di ruang terpisah yang telah dilengkapi langkah-langkah keamanan dan keselamatan sebelum menerapkannya.

Keempat, prinsip keselamatan: Pengembang perlu memastikan bahwa sistem kecerdasan buatan tidak akan menyebabkan kerugian pada kehidupan, tubuh, atau properti pengguna atau pihak ketiga, termasuk melalui perantara.

Kelima, prinsip keamanan: Selain mematuhi dokumen, instruksi, dan menerapkan langkah-langkah keamanan informasi sebagaimana ditentukan, pengembang perlu memperhatikan poin-poin seperti: Keandalan dan ketahanan terhadap serangan fisik atau kecelakaan sistem; kerahasiaan; integritas; dan ketersediaan informasi yang diperlukan terkait dengan keamanan informasi sistem...

6. Privasi: Pengembang perlu memastikan bahwa sistem AI tidak melanggar privasi pengguna atau pihak ketiga. Privasi mencakup privasi spasial (ketenangan batin dalam kehidupan pribadi), privasi informasi (data pribadi), dan kerahasiaan komunikasi. Pengembang perlu menerapkan peraturan dan pedoman terkini; standar dan pedoman internasional tentang privasi dapat dikonsultasikan.

Pengembang harus melakukan pra-penilaian risiko privasi dan pra-penilaian dampak privasi. Sebisa mungkin, ambil langkah-langkah yang sesuai dengan karakteristik teknologi yang diterapkan di seluruh proses pengembangan sistem untuk menghindari pelanggaran privasi saat digunakan.

Ketujuh, penghormatan terhadap hak asasi manusia dan martabat: Ketika mengembangkan sistem kecerdasan buatan yang melibatkan manusia, pengembang harus sangat berhati-hati dalam menghormati hak asasi manusia dan martabat individu yang terlibat. Sebisa mungkin, tergantung pada karakteristik teknologi yang diterapkan, pengembang harus mengambil langkah-langkah untuk memastikan bahwa mereka tidak menyebabkan diskriminasi atau ketidakadilan akibat bias dalam data saat melatih sistem.

Pengembang perlu mengambil tindakan pencegahan untuk memastikan bahwa sistem tidak melanggar nilai-nilai kemanusiaan dan etika sosial sesuai dengan prinsip-prinsip dasar Vietnam (misalnya, nilai-nilai termasuk patriotisme, solidaritas, kemandirian, kesetiaan, kejujuran, tanggung jawab, disiplin, kreativitas, dll.).

Kedelapan, dukungan pengguna: Untuk mendukung pengguna, pengembang sistem perlu memperhatikan poin-poin seperti: Membuat antarmuka siap pakai untuk menyediakan informasi yang tepat waktu dan tepat untuk membantu pengguna membuat keputusan dan menggunakannya dengan mudah; menerapkan langkah-langkah untuk membuat sistem lebih mudah digunakan bagi orang-orang yang rentan di masyarakat (lansia, penyandang cacat)...

9. Akuntabilitas: Pengembang perlu bertanggung jawab atas sistem yang mereka kembangkan untuk memastikan kepercayaan pengguna. Secara khusus, mereka perlu memberikan informasi kepada pengguna untuk membantu mereka memilih dan menggunakan sistem. Selain itu, untuk meningkatkan penerimaan sosial terhadap sistem, pengembang harus melakukan lebih banyak hal: Memberikan informasi dan deskripsi kepada pengguna tentang karakteristik teknis sistem yang mereka kembangkan, algoritma, mekanisme keamanan, dll.; mendengarkan pendapat dan berdialog dengan para pemangku kepentingan.

Komentar (0)