Uni Eropa menandatangani undang-undang tentang kecerdasan buatan.

Berdasarkan Undang-Undang AI, sistem AI yang digunakan di bidang-bidang seperti penegakan hukum dan ketenagakerjaan harus menunjukkan bahwa sistem tersebut cukup transparan dan akurat, memenuhi standar keamanan siber, dan memenuhi kriteria kualitas data yang digunakan untuk melatihnya.

Undang-Undang AI akan memiliki jangkauan global. Foto: Reuters

Pemungutan suara Uni Eropa ini terjadi dua bulan setelah Parlemen Eropa mengesahkan undang-undang AI. Undang-undang tersebut menetapkan bahwa sistem yang digunakan dalam situasi "berisiko tinggi" harus disertifikasi oleh badan yang disetujui sebelum dipasarkan di Uni Eropa.

Skenario "berisiko tinggi" mencakup situasi di mana penggunaan AI dapat membahayakan kesehatan, keselamatan, hak-hak mendasar, lingkungan, demokrasi, pemilihan umum, dan supremasi hukum.

Undang-Undang AI membatasi penggunaan pengawasan biometrik secara real-time di ruang publik, kecuali untuk kasus-kasus kriminal tertentu seperti pencegahan serangan teroris dan pencarian tersangka yang paling serius.

Sistem seperti penilaian sosial akan dilarang sepenuhnya, begitu pula sistem klasifikasi biometrik berdasarkan agama atau ras, orientasi seksual, dan pandangan dunia lainnya.

Undang-undang tersebut juga melarang pengenalan wajah pada kamera pengawasan, kecuali untuk penggunaan dalam tujuan penegakan hukum seperti menemukan orang hilang atau korban penculikan, mencegah perdagangan manusia, atau mencari tersangka dalam kasus kriminal serius.

Pakar hukum Patrick van Eecke dari firma hukum Cooley mengatakan bahwa undang-undang baru ini akan berdampak di luar blok 27 negara: "Undang-undang ini akan memiliki jangkauan global. Perusahaan di luar Uni Eropa yang menggunakan data pelanggan Uni Eropa dalam platform AI mereka perlu mematuhinya."

"Untuk pertama kalinya di dunia, undang-undang penting ini mengatasi tantangan teknologi global sekaligus menciptakan peluang bagi masyarakat dan ekonomi kita," kata Mathieu Michel, Menteri Digitalisasi Belgia.

Dia mengatakan: "Dengan Undang-Undang AI, Eropa menggarisbawahi pentingnya kepercayaan, transparansi, dan akuntabilitas dalam menangani teknologi baru, sekaligus memastikan bahwa teknologi yang berubah dengan cepat ini dapat berkembang dan mendorong inovasi Eropa."

Undang-undang baru ini akan mulai berlaku pada tahun 2026. Sanksi untuk pelanggaran berkisar dari 7,5 juta euro, atau 1,5% dari pendapatan, hingga 35 juta euro, atau 7% dari pendapatan global, tergantung pada jenis pelanggaran.

Sebagai tanda lain dari kekhawatiran yang meluas seputar AI, lebih dari selusin perusahaan AI terkemuka dunia, termasuk Microsoft, Amazon, dan OpenAI, membuat komitmen keamanan baru pada AI Safety Summit di Seoul pada 21 Mei.

"Komitmen ini memastikan bahwa perusahaan-perusahaan AI terkemuka di dunia akan memberikan transparansi dan akuntabilitas dalam rencana mereka untuk mengembangkan AI yang aman," tegas Perdana Menteri Inggris Rishi Sunak.

Berdasarkan kesepakatan tersebut, perusahaan-perusahaan dari berbagai negara, termasuk Amerika Serikat, Tiongkok, Kanada, Inggris Raya, Prancis, Korea Selatan, dan Uni Emirat Arab, akan membuat komitmen sukarela untuk memastikan pengembangan model AI mutakhir yang aman.

Ngoc Anh (menurut Reuters, FT)

Sumber: https://www.congluan.vn/lien-minh-chau-au-ky-luat-tri-tue-nhan-tao-cac-cong-ty-ai-dua-ra-cam-ket-post296442.html