Peraturan khusus diperlukan untuk melindungi anak-anak dari sisi gelap AI.

Pada pagi hari tanggal 21 November, para deputi Majelis Nasional mendengarkan Menteri Sains dan Teknologi Nguyen Manh Hung, yang diberi wewenang oleh Perdana Menteri, menyampaikan rancangan Undang-Undang tentang Kecerdasan Buatan.

Menteri Sains dan Teknologi Nguyen Manh Hung mempresentasikan rancangan Undang-Undang Kecerdasan Buatan. Foto: QUANG PHUC

Ketua Komite Sains, Teknologi, dan Lingkungan Majelis Nasional (KHCN-MT), Nguyen Thanh Hai, menyampaikan laporan tinjauan rancangan undang-undang tersebut. Nguyen mengatakan bahwa Komite sepakat dengan perlunya mengesahkan Undang-Undang Kecerdasan Buatan dalam konteks perkembangan AI yang luar biasa. Seiring dengan perkembangan yang pesat, penerapan yang semakin meluas, dan dampak positifnya, AI juga menimbulkan banyak tantangan dalam hal ekonomi , sosial, keamanan, dan keselamatan; serta potensi risiko yang sulit diprediksi.

Komite Sains, Teknologi, dan Lingkungan Hidup merekomendasikan agar badan perancang terus meninjau dan mengevaluasi secara lebih cermat tingkat kelembagaan kebijakan dan orientasi Partai, khususnya dalam pengembangan AI untuk manusia dan pembangunan berkelanjutan; mengembangkan secara intensif aplikasi AI berbasis data besar untuk industri dan bidang penting; menarik, mempekerjakan, dan mempertahankan ilmuwan , pakar, dan "kepala insinyur" terkemuka di dalam dan luar negeri dalam pengembangan teknologi AI...

Delegasi yang menghadiri pertemuan pagi pada tanggal 21 November. Foto: QUANG PHUC

Terkait dengan kebijakan Negara tentang kecerdasan buatan, Komite Ilmu Pengetahuan, Teknologi, dan Lingkungan Hidup mengusulkan untuk menambahkan beberapa isi kebijakan, khususnya untuk mendorong pengujian terkendali terhadap teknologi AI tingkat lanjut namun dengan potensi risiko; isi: Negara menjamin akses terhadap big data berkualitas tinggi untuk melayani pelatihan model AI; Negara memiliki mekanisme untuk menarik dan memberi penghargaan kepada para ahli, mengarahkan pelatihan sumber daya manusia sejalan dengan kebutuhan bisnis; Negara memiliki kebijakan pelatihan mendalam dan pemasyarakatan pengetahuan dan keterampilan digital dasar, etika AI bagi pegawai negeri sipil, masyarakat, khususnya anak-anak untuk menggunakan AI dengan aman.

Ketua Komite Sains, Teknologi, dan Lingkungan Majelis Nasional, Nguyen Thanh Hai, menyampaikan laporan tinjauan rancangan Undang-Undang Kecerdasan Buatan. Foto: QUANG PHUC

Terkait mekanisme pengujian terkendali untuk AI, Komisi mengakui bahwa pengujian merupakan langkah yang tak terelakkan dalam pengembangan produk, terutama untuk sistem AI yang baru dan berisiko tinggi. Mengizinkan pengujian terkendali diperlukan untuk mendorong inovasi. Oleh karena itu, perlu dikaji dan dilengkapi mekanisme pembebasan tanggung jawab atas risiko yang timbul selama proses pengujian ketika organisasi dan individu telah mematuhi peraturan.

Namun, mekanisme pengujian terkendali telah diatur dalam Undang-Undang Ilmu Pengetahuan, Teknologi, dan Inovasi, Rancangan Undang-Undang Transformasi Digital, dan dokumen panduan tentang sandbox. Oleh karena itu, untuk menghindari duplikasi, diusulkan agar undang-undang ini hanya mengatur konten spesifik pengujian untuk sistem AI; sekaligus berfokus pada mekanisme pasca-inspeksi, mengevaluasi hasil pengujian, dan memastikan penyederhanaan prosedur administratif.

Bagi kelompok rentan seperti anak-anak, Komite percaya bahwa AI juga memiliki sisi buruk yang mengkhawatirkan seperti ketika anak-anak terlalu bergantung pada AI untuk menemukan jawaban atau menyelesaikan latihan, mereka kehilangan kesempatan untuk melatih pemikiran mandiri, analisis, dan kreativitas; rentan terhadap perilaku menyimpang; mungkin salah mengira AI sebagai teman sejati dan bertindak berdasarkan saran dari AI yang mungkin tidak pantas atau berbahaya; dimanipulasi atau ditipu.

Badan inspeksi tersebut mengutip pengalaman dari negara lain, yang menunjukkan bahwa undang-undang AI di Italia menetapkan bahwa orang yang berusia di bawah 14 tahun hanya dapat menggunakan AI dengan persetujuan orang tua atau wali mereka; menurut proposal terbaru, pengguna di Uni Eropa harus berusia di atas 16 tahun untuk menggunakan AI tanpa persetujuan orang tua; Undang-Undang Pengendalian Chatbot AI di Negara Bagian California (AS) menetapkan bahwa platform AI diharuskan untuk memberi tahu pengguna yang berusia di bawah 18 tahun setiap 3 jam dengan jelas bahwa mereka sedang mengobrol dengan Chatbot dan bukan manusia.

Oleh karena itu, Komite merekomendasikan agar badan perancang mempelajari dan melengkapi peraturan khusus untuk melindungi anak-anak dari aspek negatif AI, membimbing anak-anak untuk menggunakan AI dengan cara yang aman dan sehat, di mana peran dan tanggung jawab orang tua dan sekolah dalam memantau dan meningkatkan kesadaran anak-anak terhadap AI dipromosikan.

PHAN THAO

Sumber: https://www.sggp.org.vn/can-co-quy-dinh-rieng-nham-bao-ve-tre-em-truoc-mat-trai-cua-ai-post824617.html