Saran ahli: Jangan terburu-buru melegalkan AI

(NLDO) - Lokakarya ini menarik perhatian para peneliti, dosen, mahasiswa dan pakar di bidang teknologi dan hukum.

Pada tanggal 7 Oktober, Universitas Ekonomi dan Hukum (VNU-HCM) berkoordinasi dengan Surat Kabar Hukum Kota Ho Chi Minh untuk menyelenggarakan konferensi ilmiah dengan tema "AI dan Hukum: Pengalaman internasional dan beberapa saran untuk Vietnam".

Butuh fleksibilitas, bukan "kerangka kaku"

Berbicara di lokakarya tersebut, Associate Professor Dr. Ngo Huu Phuoc, Wakil Dekan yang bertanggung jawab atas Fakultas Hukum Ekonomi, Universitas Ekonomi dan Hukum, menyampaikan makalah tentang dampak kecerdasan buatan (AI) pada sistem hukum, pengalaman legislatif negara-negara di seluruh dunia , dan saran kebijakan untuk Vietnam.

Profesor Madya, Dr. Ngo Huu Phuoc, Wakil Dekan Fakultas Hukum Ekonomi, Universitas Ekonomi dan Hukum, mempresentasikan makalahnya. Foto: Panitia Penyelenggara

Menurut Bapak Phuoc, Tiongkok merupakan salah satu negara dengan pendekatan tata kelola AI yang luar biasa. Negara ini menerapkan model berlapis, menggabungkan undang-undang dasar seperti Undang-Undang Keamanan Siber (2017), Undang-Undang Keamanan Data (2021), dan Undang-Undang Perlindungan Informasi Pribadi (2021) dengan peraturan khusus, peraturan daerah, dan standar teknis yang bersifat "hukum lunak". Pendekatan ini membantu Tiongkok untuk mengatur secara ketat sekaligus menciptakan kondisi untuk pengujian teknologi dalam lingkup kendalinya.

Keunggulan utamanya adalah kecepatan dan fleksibilitas, yang memungkinkan penyesuaian kebijakan yang cepat sesuai praktik teknologi, sekaligus mendorong pengembangan ekosistem AI yang kuat. Namun, model ini juga mengungkap keterbatasan dalam hal privasi, tumpang tindih hukum, dan risiko menghambat inovasi akibat intervensi negara yang mendalam.

Berdasarkan pengalaman internasional, Associate Professor Dr. Ngo Huu Phuoc berpendapat bahwa Vietnam belum seharusnya mengeluarkan undang-undang terpisah tentang AI pada tahap ini. Alasannya adalah ekosistem AI domestik belum cukup matang untuk dilegalkan. Sementara itu, "kerangka hukum yang kaku" akan menghambat inovasi. Di sisi lain, sumber daya pengelolaan negara masih terbatas.

Sebaliknya, ia mengusulkan penerbitan kerangka etika AI (kode etik) untuk memandu perilaku dan pengembangan yang bertanggung jawab; membangun kotak pasir AI untuk memungkinkan pengujian yang terkendali; dan mengubah serta melengkapi undang-undang yang ada untuk mengintegrasikan peraturan terkait AI ke dalam sistem hukum yang ada.

Menurut para ahli, orientasi ini akan membantu Vietnam memanfaatkan peluang dari AI secara fleksibel, aman, dan sesuai dengan kondisi aktual negara tersebut.

Ketika AI mengetuk pintu rumah sakit

Menurut Associate Professor, Dr. Le Minh Khoi - Kepala Departemen Sains dan Pelatihan, Rumah Sakit Universitas Kedokteran dan Farmasi, Kota Ho Chi Minh, dibandingkan dengan bidang-bidang seperti ekonomi atau komunikasi, AI dalam kedokteran telah dikembangkan dengan banyak model canggih. Namun, penerapan praktisnya masih perlu dicermati. "Para dokter masih dalam proses mengeksplorasi, apakah AI merupakan 'kawan' atau 'musuh'," ungkap Associate Professor, Dr. Le Minh Khoi.

Menurut Associate Professor, Dr. Le Minh Khoi, membawa AI ke bidang medis menimbulkan serangkaian risiko potensial seperti keamanan dan privasi data, bias dalam algoritma dan etika, masalah keselamatan, tanggung jawab, dan transparansi...

Salah satu risiko besar adalah "ilusi" AI. Jika kesalahan terjadi dalam sistem yang diterapkan secara luas, konsekuensinya dapat memengaruhi ribuan pasien. Pertanyaan tentang tanggung jawab juga pelik: Jika AI menyebabkan kesalahan dalam diagnosis atau perawatan, siapa yang bertanggung jawab – dokter yang menggunakan sistem, pengembang sistem, distributor, rumah sakit, atau regulator?

Suasana Konferensi - Foto: Panitia Penyelenggara

Selain itu, jika dokter terlalu bergantung pada AI, mereka dapat kehilangan kemampuan berpikir dan membuat penilaian klinis, serta secara bertahap kehilangan kemampuan untuk mendeteksi dan mengoreksi kesalahan, sementara pengawasan manusia tetap menjadi faktor yang sangat diperlukan. Selain itu, mentalitas konservatif, ketakutan kehilangan pekerjaan, atau kurangnya pemahaman tentang teknologi juga membuat banyak staf medis ragu untuk menggunakan AI.

Terkait tantangan hukum, Associate Professor Dr. Le Minh Khoi berkomentar bahwa kecepatan pengembangan AI saat ini jauh melampaui kemampuan regulasi sistem regulasi. Teknologi bergerak terlalu cepat, sementara regulasi lambat, menyebabkan kita terjebak dalam situasi "menyesakkan" di antara dua ekstrem: jika kita memperketatnya, inovasi akan terhambat, tetapi jika kita melonggarkannya, akan berisiko bagi pasien. Selain itu, infrastruktur data medis di Vietnam masih terfragmentasi, tidak konsisten, dan kualitasnya tidak merata, sehingga menyulitkan pelatihan dan pengujian model AI.

Bapak Khoi menyimpulkan bahwa AI merupakan peluang besar bagi industri medis tetapi juga merupakan ujian bagi kemampuan beradaptasi, keterbukaan pikiran, dan tanggung jawab manusia di era digital.

Sumber: https://nld.com.vn/chuyen-gia-gop-y-khong-voi-luat-hoa-ai-196251007140039549.htm