Kerangka etika dalam operasi AI harus didefinisikan dengan jelas

Pada pagi hari tanggal 21 November, para anggota Dewan Perwakilan Rakyat Daerah (DPRD) membahas rancangan Undang-Undang tentang Kecerdasan Buatan secara berkelompok. Isu etika dalam aktivitas AI menjadi perhatian banyak DPRD.

Delegasi Majelis Nasional Kota Ho Chi Minh berdiskusi secara berkelompok pada pagi hari tanggal 21 November. Foto: QUANG PHUC

Berbicara mengenai rancangan undang-undang tersebut, Wakil Menteri Kesehatan Nguyen Tri Thuc (HCMC) mengatakan bahwa salah satu masalah tersulit bagi sektor medis dalam penerapan teknologi dan kecerdasan buatan (AI) adalah pengadaan dan penawaran, karena sangat sulit menentukan harga dan juga sangat mudah terjadi hal-hal negatif. Etika dalam penggunaan AI sangat penting, sehingga beliau berharap Pemerintah dapat menugaskan Kementerian Kesehatan untuk menerbitkan kode etik dalam penggunaan AI.

Delegasi Nguyen Tri Thuc (HCMC). Foto: QUANG PHUC

Wakil Tran Hoang Ngan (HCMC) juga berkomentar bahwa AI berkembang pesat dan membawa nilai besar bagi kemanusiaan. Namun, terdapat pula aspek negatif, pelanggaran hak asasi manusia, dan tindakan inkonstitusional, sehingga diperlukan undang-undang. Wakil sepakat untuk mengklasifikasikan dan mengelola sistem AI berdasarkan risiko, dan risiko tersebut dibagi menjadi 4 tingkatan (risiko rendah, sedang, tinggi, dan tidak dapat diterima). Namun, rancangan undang-undang tersebut perlu mendefinisikan secara jelas kriteria kuantitatif atau kualitatif untuk mengidentifikasi dan mengklasifikasikan risiko, serta mengatur langkah-langkah manajemen, perangkat, dan metode untuk penilaian risiko.

Delegasi Tran Hoang Ngan (HCMC). Foto: QUANG PHUC

Delegasi Nguyen Minh Duc (HCMC) bertanya: siapa yang akan bertanggung jawab jika AI menciptakan produk yang melanggar hukum, misalnya, pencemaran nama baik atau penghinaan terhadap pemimpin? Hal ini juga menjadi perhatian banyak organisasi internasional. Oleh karena itu, menurut Delegasi, perlu dipertimbangkan mekanisme kompensasi bagi subjek jika AI menciptakan kesalahan atau pelanggaran hak cipta.

"Lalu ada isu hak kekayaan intelektual untuk karya yang diciptakan dengan AI. Siapa yang akan menjadi pemiliknya?" tanya Wakil Nguyen Minh Duc. Wakil tersebut setuju dengan ketentuan pelabelan produk yang menggunakan AI dalam rancangan undang-undang tersebut, yang bertujuan untuk menciptakan tanggung jawab etis dan hukum yang mengikat.

Delegasi Nguyen Minh Duc (HCMC). Foto: QUANG PHUC

Menurut Wakil Bui Hoai Son (Hanoi), isu hak kekayaan intelektual dan hak cipta untuk produk-produk berbasis AI sedang menjadi isu hangat di dunia , yang memicu banyak perselisihan, tetapi rancangan undang-undang tersebut belum mendefinisikannya secara jelas. Jika tidak diatur tepat waktu, seniman Vietnam dapat dirugikan, dan lingkungan kreatif budaya akan menjadi tidak stabil.

“Undang-Undang Kecerdasan Buatan harus memiliki setidaknya satu ketentuan berprinsip, yang menegaskan bahwa semua aplikasi AI harus menghormati hak kekayaan intelektual, tidak boleh menggunakan data pelatihan dari karya sastra, seni, musik, film, dll. secara ilegal, dan menugaskan Undang-Undang Kekayaan Intelektual untuk menangani detailnya,” usul Wakil Bui Hoai Son.

Wakil Bui Hoai Son juga menyampaikan perlunya klarifikasi tanggung jawab platform penyedia layanan AI, khususnya platform lintas batas, dalam mematuhi hukum Vietnam terkait pers, perfilman, keamanan siber, keamanan informasi, anak-anak, dan sebagainya. Tanpa regulasi yang kuat, kita akan kesulitan menangani tindakan penyebaran konten beracun yang diciptakan oleh AI, mulai dari berita bohong hingga konten yang memicu kekerasan, kebencian, kebejatan, serta melanggar budaya dan etika sosial.

Menurut para deputi, AI juga dapat melakukan tindakan dan kesalahan manusia. Sementara itu, terdapat banyak perbedaan pandangan mengenai tanggung jawab hukum AI itu sendiri, sehingga sulit untuk menentukan tanggung jawab dalam pengertian tradisional. Ketika suatu insiden terjadi, hal tersebut akan menimbulkan perselisihan mengenai tanggung jawab administratif, perdata, dan pidana. Oleh karena itu, perlu ditambahkan prinsip-prinsip untuk membedakan tanggung jawab antara subjek dan pihak terkait, termasuk penyedia asing, ketika menyediakan layanan AI lintas batas, dan untuk membedakan antara kasus atau kesalahan yang disengaja dan tidak disengaja akibat keterbatasan teknis dan situasi yang tidak terduga.

Draf tersebut juga menetapkan prinsip-prinsip dasar etika dalam aktivitas AI. Wakil Nguyen Thi Yen (HCMC) sepakat bahwa kerangka etika dalam aktivitas AI harus didefinisikan secara jelas untuk mencegah pelanggaran.

Terkait dengan perbuatan yang dilarang: menggunakan AI untuk menimbulkan kekacauan, menghasut politik, melanggar keamanan nasional, memanipulasi suara, pemilihan umum... Melarang penggunaan AI untuk membuat konten palsu, membuat gambar dan klip video palsu, menghina kehormatan dan martabat, menimbulkan perpecahan, dan tujuan buruk lainnya.

PHAN THAO

Sumber: https://www.sggp.org.vn/khung-dao-duc-trong-hoat-dong-ai-phai-quy-dinh-ro-rang-post824652.html