RUU Kecerdasan Buatan: Manajemen yang ketat dan dorongan untuk mendorong inovasi dan kreativitas

Pada lokakarya tentang rancangan Undang-Undang tentang Kecerdasan Buatan (AI) yang diselenggarakan oleh Komite Ilmu Pengetahuan, Teknologi, dan Lingkungan Hidup, para ahli merekomendasikan perlunya pengaturan tentang etika dan tanggung jawab dalam penggunaan AI, menambahkan prinsip menghormati privasi dan memiliki beberapa prinsip khusus dalam dokumen sub-undang-undang.

Tentukan titik kesetimbangan

AI merupakan platform teknologi terobosan dari revolusi industri keempat yang berdampak besar pada semua aspek kehidupan, mulai dari produksi dan bisnis, pendidikan, layanan kesehatan, transportasi, hingga pertahanan dan keamanan. Menurut Wakil Ketua Komite Sains, Teknologi, dan Lingkungan, Tran Van Khai, di Vietnam, AI ditetapkan sebagai salah satu teknologi prioritas nasional, yang memainkan peran kunci dalam transformasi digital, mengembangkan ekonomi berbasis pengetahuan, dan meningkatkan daya saing nasional.

Wakil Ketua Komite Sains , Teknologi, dan Lingkungan Hidup Tran Van Khai berbicara di lokakarya tersebut.

Resolusi No. 57-NQ/TW tentang terobosan dalam sains, teknologi, inovasi dan transformasi digital nasional Politbiro juga menetapkan tujuan Vietnam menjadi salah satu dari 3 negara teratas di Asia Tenggara dalam penelitian dan pengembangan AI, secara bertahap menguasai sejumlah teknologi strategis, teknologi digital, AI, mengembangkan aplikasi AI dan aplikasi big data secara kuat untuk industri dan bidang penting.

Namun, Wakil Ketua Komite Tran Van Khai menyatakan bahwa perkembangan AI yang pesat juga menimbulkan banyak tantangan hukum, etika, tanggung jawab, dan keselamatan, sehingga memerlukan koridor hukum yang sesuai yang secara ketat mengelola dan mendorong pengembangan inovasi.

Oleh karena itu, penyusunan Undang-Undang Kecerdasan Buatan yang tepat waktu untuk diserahkan kepada Majelis Nasional guna dipertimbangkan dan diundangkan pada Sidang ke-10 sangatlah penting. Undang-undang ini merupakan undang-undang pertama di Vietnam di bidang ini, yang berkontribusi dalam menciptakan landasan hukum untuk mendorong penelitian, pengembangan aplikasi, dan pengelolaan AI secara aman, bertanggung jawab, dan manusiawi. "Hal terpenting dari rancangan Undang-Undang Kecerdasan Buatan ini adalah menentukan sudut pandang kebijakan, untuk menentukan keseimbangan yang tepat antara pengelolaan dan promosi. Dengan demikian, isi dan larangan pengelolaan harus benar-benar jelas," tegas Wakil Ketua Komite Sains, Teknologi, dan Lingkungan.

Kepala Fakultas Hukum Perdata, Universitas Hukum - Universitas Nasional Vietnam, Hanoi, Dr. Nguyen Bich Thao berbicara

Terkait Pasal 4 RUU tersebut, Dr. Nguyen Bich Thao, Kepala Fakultas Hukum Perdata, Universitas Hukum - Universitas Nasional Vietnam, Hanoi, mencatat bahwa 8 prinsip dasar dalam Pasal ini dengan jelas menunjukkan nilai-nilai inti dan universal kemanusiaan tentang tata kelola AI dan AI yang bertanggung jawab dengan berpusat pada manusia; tanggung jawab dan pengendalian manusia; keselamatan, keadilan, dan transparansi; kepatuhan terhadap hukum dan standar etika; otonomi nasional dan integrasi internasional; pembangunan hijau, inklusif, dan berkelanjutan; manajemen berbasis risiko; dan mendorong inovasi.

Namun, Dr. Nguyen Bich Thao menyatakan bahwa isi beberapa prinsip dasar tampaknya tumpang tindih dengan prinsip-prinsip etika dalam Bab V rancangan Undang-Undang. Oleh karena itu, disarankan agar lembaga perancang, dalam merancang peraturan ini, mengacu pada pendekatan dua lapis sebagaimana direkomendasikan oleh Organisasi Pendidikan, Keilmuan, dan Kebudayaan Perserikatan Bangsa-Bangsa (UNESCO) tentang etika AI. Secara spesifik, lapis pertama adalah nilai-nilai inti, orientasi utama kebijakan dan pendekatan; lapis kedua adalah prinsip-prinsip etika yang lebih spesifik untuk menghindari tumpang tindih.

Tambahkan prinsip menghormati privasi

Rancangan Undang-Undang tersebut menekankan bahwa model bahasa berskala besar dan AI generatif Vietnam dilatih secara intensif dengan data Vietnam. Menganalisis hal ini, Prof. Dr. Ho Tu Bao - Institut Studi Lanjutan Matematika, menyatakan bahwa ketentuan dalam rancangan Undang-Undang tersebut masih belum lengkap. AI memiliki dua cabang utama: AI analitis dan AI generatif.

Di antara keduanya, AI analitis (juga dikenal sebagai AI prediktif) berfokus pada pemahaman data yang ada dan yang telah lalu untuk mendapatkan informasi, menemukan pola, menjelaskan penyebab, dan memprediksi masa depan, yang bersifat analitis, eksplanatif, dan prediktif. AI generatif berfokus pada penciptaan konten, ide, desain, atau solusi baru yang tidak tersedia dalam data pelatihan, terutama dalam hal kreatif, desain, dan sintesis. Oleh karena itu, strategi nasional AI perlu mengembangkan dan menggunakan AI analitis dan AI generatif secara harmonis.

Selain itu, Profesor Dr. Ho Tu Bao juga mengusulkan penambahan istilah "Etika AI adalah seperangkat prinsip dan standar yang harus dipatuhi oleh semua anggota masyarakat saat meneliti, mengembangkan, menerapkan, dan menggunakan AI untuk memastikan keadilan, transparansi, keamanan, dan tanggung jawab sosial".

Menyatakan persetujuannya, Wakil Presiden Asosiasi Teknologi Informasi Vietnam, Dr. Phung Van On, juga mengatakan bahwa, dalam menghadapi banyaknya informasi yang tidak terverifikasi yang diciptakan oleh AI seperti dalam praktik saat ini, yang menyebabkan dampak negatif pada kehidupan sosial, maka perlu untuk mengatur konten yang etis dan tanggung jawab dalam penggunaan AI.

Wakil Presiden Asosiasi Teknologi Informasi Vietnam, Dr. Phung Van On berbicara di konferensi tersebut

Bapak Phung Van On menyarankan agar etika AI melengkapi prinsip penghormatan terhadap hak asasi manusia dan privasi; sekaligus menyampaikan kekhawatirannya terhadap pembentukan Komite Nasional AI dan Portal Terpadu AI, karena hal ini dapat dengan mudah menyebabkan "pembengkakan" struktur organisasi, padahal saat ini terdapat Komite Transformasi Digital.

Dari sudut pandang manajemen, Ketua Asosiasi Radio dan Elektronik Vietnam Tran Duc Lai mengusulkan pembentukan Dewan Etika AI independen di dalam Komite dengan para ahli multidisiplin, yang mana perlu dinyatakan secara jelas tingkat keikutsertaan para ahli (seperti model Singapura, tingkat keikutsertaan para ahli dapat berkisar 30 - 50%); di saat yang sama, ditetapkan secara jelas mekanisme koordinasi antarkementerian ketika menangani isu-isu lintas sektor.

Terkait kerangka etika AI nasional, Ketua Asosiasi Radio dan Elektronik Vietnam menilai bahwa Pasal 40 dan 41 rancangan Undang-Undang tersebut memiliki prinsip-prinsip umum tetapi kurang memiliki peraturan pelaksanaan yang rinci. Hal ini disebabkan Kerangka Etika AI perlu menetapkan batasan teknologi, melindungi manusia, memastikan keadilan dan transparansi, serta mendorong inovasi. Oleh karena itu, beliau mengusulkan penambahan prinsip penghormatan privasi dan pencantuman beberapa prinsip spesifik dalam dokumen turunan Undang-Undang.

Wakil Menteri Sains dan Teknologi Pham Duc Long berbicara

Mewakili lembaga penyusun, Wakil Menteri Sains dan Teknologi Pham Duc Long menegaskan bahwa pengembangan Undang-Undang Kecerdasan Buatan merupakan langkah penting bagi pembangunan sosial-ekonomi dan tata kelola nasional di era digital. Koridor hukum yang jelas, dengan kelompok kebijakan yang spesifik, akan membantu memaksimalkan potensi AI, sekaligus mengidentifikasi, mengendalikan, dan meminimalkan risiko.

"Kementerian Sains dan Teknologi akan menyerap sepenuhnya pendapat para ahli, ilmuwan, dan lembaga pengelola untuk terus menyempurnakan rancangan tersebut sebelum diserahkan kepada Majelis Nasional untuk dipertimbangkan," ujar Wakil Menteri.

Sumber: https://daibieunhandan.vn/du-thao-luat-tri-tue-nhan-tao-vua-quan-ly-chat-che-vua-khuyen-khich-thuc-day-phat-trien-doi-moi-sang-tao-10390992.html