Kontrol gambar AI

Pada kenyataannya, gambar dan video yang dibuat menggunakan AI telah menjadi tren teknologi baru, yang membawa banyak aplikasi positif, tetapi juga membawa risiko signifikan jika digunakan untuk tujuan yang salah atau ilegal. Ini termasuk pelanggaran privasi, digunakan untuk penipuan, manipulasi opini publik, dan penipuan identitas. Oleh karena itu, kontrol sangat penting untuk mencegah risiko-risiko ini.

Saat ini, Undang-Undang Kecerdasan Buatan, yang berlaku efektif sejak 1 Maret di Vietnam, juga mengatur tanggung jawab "pihak pelaksana"—organisasi dan individu yang menggunakan sistem kecerdasan buatan di bawah kendali mereka dalam kegiatan profesional, komersial, atau penyediaan jasa (tidak termasuk penggunaan untuk tujuan pribadi dan non-komersial). Misalnya, Pasal 4, Ayat 11 undang-undang tersebut menyatakan: Pihak pelaksana bertanggung jawab untuk memastikan bahwa audio, gambar, dan video yang dibuat atau diedit menggunakan sistem kecerdasan buatan untuk mensimulasikan atau mereplikasi penampilan dan suara orang sungguhan atau untuk mereproduksi peristiwa nyata diberi label dengan jelas untuk membedakannya dari konten nyata.

Ini adalah peraturan yang diperlukan, dan sebagian besar "pihak pelaksana" telah mematuhinya sejak awal. Namun, banyak gambar dari pengguna individu non-komersial masih muncul di media sosial, menyebabkan kebingungan dan ketidakakuratan yang cukup besar. Situasi ini menyoroti perlunya penguatan lebih lanjut terhadap peraturan yang mewajibkan pelabelan dan kontrol terhadap mereka yang menggunakan gambar AI.

Baru-baru ini, Pemerintah mengeluarkan Keputusan No. 174/2026/ND-CP yang menetapkan sanksi administratif untuk pelanggaran di bidang layanan pos, telekomunikasi, frekuensi radio, transaksi elektronik, dan teknologi informasi. Yang perlu diperhatikan secara khusus adalah peraturan tentang sanksi untuk pelanggaran terkait penggunaan layanan media sosial yang bertanggung jawab. Keputusan ini akan berlaku mulai 1 Juli. Ini juga merupakan dasar hukum penting untuk memperbaiki banyak pelanggaran yang terjadi di dunia maya, terutama di jejaring sosial. Pada kenyataannya, jejaring sosial dieksploitasi untuk keuntungan oleh banyak individu, organisasi, dan bisnis tanpa memperhatikan konsekuensinya, sehingga perlu segera diperbaiki.

Namun, agar kerangka hukum ini benar-benar membawa perubahan positif, peran otoritas terkait jelas sangat penting. Di samping peraturan hukum, keterlibatan lembaga terkait sangat penting karena pelanggaran semakin menimbulkan konsekuensi serius. Lebih lanjut, setiap warga negara perlu meningkatkan kesadaran dan pemahaman mereka tentang hukum ketika menggunakan konten yang dihasilkan AI dan berinteraksi di media sosial, karena pelanggaran sekarang dapat memiliki konsekuensi yang signifikan.

Menurut Phat Tien (TNO)

Sumber: https://baogialai.com.vn/kiem-soat-hinh-anh-ai-post587963.html