Perlakukan AI sebagai “manusia baru lahir” dan ajarkan AI seperti anak kecil

Pada 27 November, Majelis Nasional membahas rancangan Undang-Undang Kecerdasan Buatan (AI) di aula. Delegasi Tran Van Lam (Delegasi Bac Ninh) mengatakan bahwa AI kini memiliki pengaruh yang tak kalah besar dibandingkan penemuan mana pun dalam sejarah, menghasilkan produktivitas yang luar biasa, mendukung layanan kesehatan dan pendidikan, meningkatkan kapasitas peramalan, dan membuka ruang inovasi yang belum pernah ada sebelumnya. Namun, di saat yang sama, AI juga menimbulkan tantangan besar bagi setiap negara.

Ikhtisar pertemuan (Foto: Quang Vinh)

Menurut Bapak Lam,   Ada risiko yang sangat nyata dan ada seperti: AI dieksploitasi untuk memalsukan, memanipulasi informasi, menipu dan menyebabkan perpecahan sosial; menggantikan tenaga kerja dan meningkatkan ketidaksetaraan; mendistorsi nilai-nilai budaya dan intelektual; dan mengancam keamanan nasional, pertahanan dan kedaulatan digital.

Hal yang paling mengkhawatirkan adalah ,   Tuan Lam   takut   Bukan apa yang AI lakukan atas perintah manusia, melainkan apa yang dapat AI lakukan ketika berada di luar kendali manusia. Dari perspektif ilmiah , jika suatu hari AI membentuk tujuannya sendiri, menafsirkan tugas dengan cara yang tidak sejalan dengan kepentingan manusia, atau bahkan menganggap manusia sebagai "risiko", apa yang akan terjadi? Mungkinkah muncul sistem superintelijen yang menganggap manusia hanya sebagai "variabel" dalam algoritma optimasinya?  

" Kisah fiksi ilmiah tentang AI yang mendominasi manusia tidak dimaksudkan untuk menakut-nakuti kita, melainkan untuk mengingatkan kita bahwa setiap kemajuan buatan dapat mengkhianati tujuan awalnya jika tidak dirancang dengan nilai-nilai etika yang kuat sejak awal. Dan sejarah telah membuktikan bahwa teknologi apa pun, ketika di luar kendali, dapat menimbulkan konsekuensi yang harus dibayar mahal oleh umat manusia ," kata Bapak Lam.

Risiko-risiko ini menunjukkan urgensi membangun kerangka hukum yang cukup kuat agar AI dapat berkembang ke arah yang benar dan aman bagi masyarakat.   Karena itu   Agar UU ini benar-benar lengkap dan visioner, Bapak Lam mengusulkan tambahan penting: anggaplah AI sebagai "manusia yang baru lahir". Sebuah entitas intelektual namun masih polos ,   tidak mengetahui hukum, tidak memahami etika dan etiket, tidak memiliki nilai-nilai budaya, dan tidak membedakan benar dan salah jika tidak diajarkan.   Dengan demikian, jika kita menganggap AI sebagai entitas yang sedang berkembang, tanggung jawab kita bukan hanya mengendalikannya, tetapi juga mengajarkannya sejak dini, layaknya mengajarkan anak-anak tentang nilai-nilai kemanusiaan yang baku. Dan ini seharusnya menjadi ketentuan wajib dalam Undang-Undang ini, bukan sekadar anjuran.

Dari   di sana,   Bapak Lam mengusulkan agar Majelis Nasional menambahkan prinsip-prinsip hukum pada Undang-Undang ini sebagai berikut:    Setiap perangkat lunak AI yang beroperasi di Vietnam, baik yang dikembangkan oleh organisasi domestik maupun asing, harus dilengkapi dengan basis data dasar manusia standar. Basis data ini harus berisi informasi yang memadai untuk mengajarkan AI memahami hukum Vietnam; mengajarkan standar etika, budaya, dan tradisi baik bangsa kepada AI; mengajarkan AI kemampuan untuk membedakan yang benar dari yang salah, standar dari standar. Batasan perilaku tidak boleh melampaui aturan untuk mengidentifikasi risiko bagi manusia. Dan yang terpenting, pastikan bahwa basis data dasar ini selalu menjadi prioritas utama dalam mengatur perilaku AI; tidak boleh ditimpa, diganti, atau dinonaktifkan oleh algoritma atau data pelatihan lain. Inilah "cincin emas" hukum dan teknis yang memastikan AI tidak menyimpang.

Untuk menerapkan orientasi ini secara efektif, Bapak Lam juga merekomendasikan agar Kementerian Sains dan Teknologi memimpin pembangunan platform basis data "Being Vietnamese" – terpadu, terstandarisasi, dan terus diperbarui; menyediakannya bagi para pengembang AI sebagai persyaratan wajib. Pemerintah mengembangkan infrastruktur komputasi nasional yang kuat untuk memastikan bahwa AI Vietnam dilatih berdasarkan nilai-nilai Vietnam, alih-alih bergantung pada model asing. Bangun Pusat Pengujian AI Nasional untuk segera menilai perilaku menyimpang, mengendalikan model berisiko tinggi, dan segera melakukan intervensi ketika ada tanda-tanda melampaui batas. Promosikan pendidikan AI di seluruh masyarakat, dengan fokus membantu masyarakat, bisnis, dan khususnya sektor publik agar memiliki kapasitas untuk mengidentifikasi, menggunakan, dan memantau AI dengan tepat.

Di saat yang sama, melihat dunia, umat manusia memasuki era AI terlalu cepat, sementara kerangka hukum global belum sepenuhnya mengikuti. Serupa dengan Konvensi Hanoi tentang Pencegahan Kejahatan Siber, dunia membutuhkan Konvensi Internasional tentang Keamanan AI untuk menetapkan standar bersama, mencegah risiko yang tidak terkendali, dan melindungi hak asasi manusia dalam menghadapi perkembangan AI. Dengan visi yang proaktif, hati-hati, dan manusiawi, Vietnam tentu dapat memimpin dalam mengusulkan dan memimpin inisiatif ini.

“Undang-Undang Kecerdasan Buatan saat ini bukan sekadar undang-undang teknologi, melainkan undang-undang masa depan; sebuah komitmen Majelis Nasional kepada rakyat: kita mengembangkan teknologi tanpa kehilangan kendali; mendorong inovasi tanpa membiarkan risiko melampaui jangkauan kita; dan memelihara kecerdasan buatan dengan nilai-nilai Vietnam untuk melayani rakyat Vietnam,” ujar Bapak Lam.

Viet Thang - Trung Hieu

Sumber: https://daidoanket.vn/hay-coi-ai-nhu-mot-con-nguoi-moi-sinh-va-day-ai-nhu-mot-dua-tre.html