Penggabungan 3 dana sains dan teknologi membantu memusatkan sumber daya

Dalam diskusi di Grup 16 (termasuk delegasi Majelis Nasional dari Kota Da Nang, Provinsi Tuyen Quang, dan Provinsi Cao Bang) pada pagi hari tanggal 21 November, para deputi Majelis Nasional menyatakan bahwa pembentukan Dana Pengembangan Kecerdasan Buatan Nasional akan membantu mendorong dan mendukung kapasitas penelitian serta penerapan AI di negara ini. Namun, saat ini terdapat dua dana lain di bidang sains dan teknologi, sehingga perlu dipertimbangkan untuk menggabungkannya menjadi dana bersama agar sumber daya dapat difokuskan untuk mendukung penelitian dan inovasi teknologi, termasuk AI.

Perlu mengatur perilaku terlarang dalam penelitian dan penerapan AI.

Kecerdasan Buatan (AI) menjadi teknologi mutakhir dalam revolusi industri 4.0, membuka banyak peluang besar bagi pembangunan sosial -ekonomi. Namun, AI juga menimbulkan banyak tantangan mendesak dalam hal manajemen, etika, dan keselamatan yang belum sepenuhnya tercakup dalam peraturan perundang-undangan saat ini.

Oleh karena itu, seluruh anggota DPR RI sepakat untuk segera menyusun Rancangan Undang-Undang tentang Kecerdasan Buatan (RUU Kecerdasan Buatan) guna menciptakan koridor hukum yang terobosan bagi kecerdasan buatan, menciptakan iklim hukum yang kondusif guna mendorong inovasi, meningkatkan daya saing nasional, sekaligus mengelola risiko, melindungi kepentingan nasional, dan hak asasi manusia.

Delegasi Majelis Nasional Tran Dinh Chung (Kota Da Nang ) berpidato. Foto: Pham Thang

Prihatin dengan penggunaan AI di lembaga-lembaga negara, Wakil Majelis Nasional Tran Dinh Chung (Da Nang) mengatakan bahwa ini akan membantu lembaga-lembaga, pejabat-pejabat dan pegawai negeri sipil menghemat banyak waktu, memproses pekerjaan lebih cepat dan lebih sinkron, sehingga berkontribusi pada peningkatan kualitas pekerjaan.

Di samping manfaat biaya dan waktu penerapan AI di lembaga negara, delegasi juga mencatat bahwa saat ini ada banyak masalah yang perlu dikaji dan ditentukan lebih lanjut dalam rancangan Undang-Undang.

Yang pertama adalah keamanan saat menggunakan AI, karena pejabat dan pegawai negeri sipil saat ini harus memberikan informasi masukan untuk pelatihan AI serta selama proses operasional. Oleh karena itu, jika tidak dikelola dengan ketat, terdapat risiko data internal, data sensitif, atau informasi rahasia negara dimasukkan ke dalam perangkat lunak AI, atau data digunakan untuk tujuan selain pelatihan AI. Data juga menjadi perhatian ketika tidak ada peraturan khusus tentang cara menyimpannya, di mana menyimpannya, dan hak aksesnya.

Kedua, pemusatan data dalam jumlah besar dari lembaga negara ke dalam perangkat lunak AI juga menimbulkan risiko peretas menyerang dan mencuri data. Risiko ini semakin meningkat karena lembaga negara tidak dapat membangun dan mengoperasikan perangkat lunak AI sendiri, melainkan sering kali bergantung pada kerja sama dengan perusahaan luar. Sementara itu, spyware dari negara asing juga terus berkembang, sehingga penggunaan AI juga menghadapi risiko pencurian dan dominasi data.

Ketiga, risiko lainnya adalah akurasi. Karena perangkat lunak AI juga dapat menghasilkan hasil yang tidak akurat karena pembelajaran dari data yang tersedia, dapat mewarisi bias atau solusi yang salah yang telah dibuat oleh pegawai negeri sipil di masa lalu. "Data yang tidak akurat atau tidak lengkap juga sangat memengaruhi kualitas AI," tegas delegasi tersebut.

Pejabat, pegawai negeri sipil, atau warga negara tidak memiliki keterampilan untuk bertanya kepada AI, sehingga jawaban yang diberikan terbatas. Sementara itu, AI membutuhkan waktu untuk memperbarui dokumen hukum baru dan instruksi baru dari lembaga negara.

Delegasi Majelis Nasional Ta Van Ha (Kota Da Nang) berpidato. Foto: Pham Thang

Keempat, kualitas AI saat ini belum memenuhi persyaratan. Beberapa model AI sangat kompleks, sehingga sulit untuk mengontrol proses analisis, memproses data, dan menjelaskan mengapa AI membuat keputusan tertentu. Selain itu, masalah kesalahan dalam algoritma atau sistem AI juga menyebabkan kesalahan.

Selain persyaratan infrastruktur teknis dan sumber daya manusia untuk menerapkan AI di instansi pemerintah, delegasi Tran Dinh Chung juga mencatat perlunya perhatian terhadap risiko penyalahgunaan teknologi AI, yang akan menurunkan keterampilan pegawai negeri sipil. Para pejabat akan melakukan lebih sedikit riset karena mereka berpikir mereka hanya perlu menerapkannya ke dalam perangkat lunak agar AI dapat membantu menjawab pertanyaan yang perlu dijawab.

"Penggunaan teknologi AI di instansi pemerintah merupakan tren yang tak terelakkan. Namun, bagaimana memanfaatkannya untuk memastikan efisiensi kerja sekaligus menjamin keamanan dan keselamatan informasi merupakan isu yang terus diangkat." Oleh karena itu, delegasi Tran Dinh Chung setuju untuk membangun proyek Undang-Undang Kecerdasan Buatan, tetapi juga menyarankan untuk terus meninjau guna memastikan konsistensi dan kesesuaian dengan undang-undang terkait.

Para delegasi juga mengusulkan agar dikaji dan ditambahkan ketentuan yang mengatur tentang perilaku dan kegiatan terlarang dalam penelitian, penerapan, dan adopsi AI, daripada menempatkannya tersebar dalam banyak ketentuan dalam rancangan Undang-Undang seperti saat ini, yang menyebabkan kesulitan dalam pemantauan.

Menurut delegasi, pendefinisian tanggung jawab hukum AI secara jelas sangat penting untuk menghindari sengketa hukum di masa mendatang serta menangani pelanggaran. Di sisi lain, AI berkaitan dengan mesin dan teknologi, sehingga selain kesalahan yang disebabkan oleh manusia, AI juga dapat disalahkan pada mesin, teknologi, atau faktor lainnya. Oleh karena itu, penelitian harus dilakukan untuk mendefinisikannya secara lebih spesifik, sehingga menghindari pengaburan tanggung jawab hukum, terutama dalam penerapan dan penggunaan AI di lembaga negara.

Perlu ditetapkan secara jelas lembaga yang bertugas mengelola risiko di lapangan.

Prihatin dengan pengelolaan sistem AI berisiko tinggi yang diatur dalam Bagian II, Bab II rancangan Undang-Undang, Wakil Majelis Nasional Vuong Thi Huong (Tuyen Quang) mengatakan bahwa sektor kesehatan perlu diidentifikasi sebagai salah satu sektor berisiko tinggi ketika menerapkan kecerdasan buatan, karena dampak langsungnya terhadap kehidupan dan kesehatan manusia, data pribadi yang sensitif, dan kepercayaan sosial. Sistem AI yang mendukung diagnosis gambar, pengobatan penyakit, pembedahan, analisis gen, dll., jika tidak diinspeksi, tidak memiliki standar keamanan, atau tidak transparan dalam data pelatihan, dapat menyebabkan konsekuensi yang serius, bahkan tidak dapat diubah.

Delegasi Majelis Nasional Vuong Thi Huong (Tuyen Quang) berbicara. Foto: Pham Thanh

Rancangan Undang-Undang tersebut menetapkan klasifikasi dan pengelolaan risiko, tetapi tidak menjelaskan secara rinci lembaga yang bertanggung jawab atas pengelolaan di setiap bidang. Sementara itu, para delegasi menemukan bahwa, di sektor kesehatan, jika koordinasi umum diserahkan kepada lembaga pengelola teknologi informasi tanpa mendefinisikan secara jelas peran sektor kesehatan, hal ini dapat menyebabkan tumpang tindih penilaian, kurangnya keseragaman standar profesional, dan kesulitan dalam mengelola produk kecerdasan buatan yang digunakan sebagai alat kesehatan atau yang diterapkan dalam pemeriksaan dan perawatan medis.

Oleh karena itu, diusulkan untuk melengkapi peraturan yang menugaskan Kementerian Kesehatan untuk memimpin pengelolaan sistem kecerdasan buatan berisiko tinggi di bidang medis, berkoordinasi dengan Kementerian Informasi dan Komunikasi dan kementerian dan cabang terkait untuk: menyebarluaskan standar teknis, penilaian klinis dan inspeksi keselamatan; peraturan tentang keamanan data rekam medis dan koneksi sistem informasi medis; dan memantau risiko selama penggunaan.

“Mendefinisikan titik fokus secara jelas akan menciptakan landasan hukum yang kuat, memastikan keselamatan pasien, dan sekaligus menciptakan kondisi bagi bisnis teknologi dan fasilitas medis untuk menerapkan aplikasi AI secara transparan dan terkendali,” tegas delegasi Vuong Thi Huong.

Menyetujui ketentuan Dana Pengembangan Kecerdasan Buatan Nasional dalam Pasal 23 rancangan undang-undang tersebut, Wakil Majelis Nasional Be Minh Duc (Cao Bang) mengatakan bahwa dana ini dibentuk untuk mendorong dan mendukung kapasitas riset serta penerapan AI di negara ini. Namun, saat ini kita memiliki Dana Pengembangan Sains dan Teknologi Nasional dan Dana Inovasi Teknologi Nasional, yang juga bertujuan untuk mendukung riset dan inovasi teknologi, termasuk AI.

Wakil Majelis Nasional Be Minh Duc (Cao Bang) berpidato. Foto: Pham Thang

Meskipun cakupan dan target setiap jenis dana berbeda, semuanya berfokus pada bidang sains dan teknologi. Oleh karena itu, disarankan untuk meninjau dan menentukan hubungan antar jenis dana guna meningkatkan efektivitas masing-masing jenis dana, menghindari duplikasi fungsi, penyebaran sumber daya, dan peningkatan beban anggaran.

Sekalipun berada di bawah naungan kementerian yang sama, para delegasi mengusulkan agar dipertimbangkan penggabungan ketiga jenis dana tersebut, dengan memfokuskan sumber daya untuk melaksanakan kebijakan dukungan demi pengembangan ilmu pengetahuan dan teknologi yang lebih menguntungkan.

Selain itu, delegasi Be Minh Duc juga menyarankan agar undang-undang khusus yang relevan juga memiliki regulasi khusus tentang AI di setiap bidang. Prinsip ini perlu diatur, karena negara kita sedang memasuki era digital. Kecerdasan buatan telah banyak diteliti dan diterapkan di semua industri, baik di bidang sosial-ekonomi, pertahanan, maupun keamanan. Penerapan prinsip di atas akan membantu memastikan regulasi yang komprehensif terhadap isu-isu spesifik dan memenuhi persyaratan manajemen dalam konteks teknologi yang berkembang pesat seperti saat ini.

Sumber: https://daibieunhandan.vn/gop-3-quy-ve-khoa-hoc-cong-nghe-giup-tap-trung-nguon-luc-10396526.html