Transparansi produk kecerdasan buatan

Banyak produk kecerdasan buatan (AI) saat ini tidak mengungkapkan tingkat intervensi teknologinya, sehingga menyulitkan pengguna untuk membedakan antara produk asli dan palsu. Dalam situasi ini, pendefinisian kewajiban untuk transparan dan pemberian label pada produk AI secara jelas menjadi persyaratan yang mendesak.

Stan pameranFPT tentang aplikasi AI di berbagai bidang.

Saat ini, mulai dari pembuatan konten visual, audio, dan teks hingga dukungan pengambilan keputusan otomatis, banyak produk AI tidak berlabel dan dibagikan sebagai konten biasa. Akibatnya, pengguna tidak tahu apakah mereka berinteraksi dengan konten buatan manusia atau AI dan mungkin mempercayai misinformasi atau manipulasi.

Misalnya, sebuah salon kecantikan memasang iklan hasil rekayasa AI dengan gambar model, yang membuat pelanggan keliru mengira iklan itu asli. Namun, ketika mereka mencoba layanannya, mereka mendapati kualitasnya tidak sesuai iklan. Yang lebih berbahaya lagi, AI menciptakan foto palsu tokoh terkenal, video yang mensimulasikan pernyataan politisi, atau artikel yang dibuat oleh AI tetapi dengan nama orang sungguhan, yang merusak kehormatan pribadi dan reputasi lembaga serta organisasi.

Selain itu, kurangnya mekanisme pelabelan mengurangi kepercayaan pengguna terhadap platform digital dan produk AI. Lingkungan digital yang tidak transparan tentang asal konten akan membuat pengguna curiga dan menjauh. Sementara itu, sebagian besar pengguna Vietnam tidak memiliki kebiasaan mengidentifikasi dan memverifikasi asal konten, dan perangkat teknis untuk mendeteksi produk AI terbatas.

Menetapkan secara jelas kewajiban transparansi dan pelabelan bukan hanya persyaratan etika teknologi, tetapi juga landasan hukum untuk melindungi pengguna dan pengembang produk AI. Untuk memenuhi persyaratan ini, Kementerian Sains dan Teknologi sedang mengembangkan Undang-Undang tentang Kecerdasan Buatan, dengan Pasal 12 yang menetapkan "Transparansi, Pelabelan, dan Akuntabilitas".

Dengan demikian, pelabelan adalah penerapan langkah-langkah teknis untuk memberikan pemberitahuan yang jelas, mudah dikenali, dan terbaca mesin bahwa konten (teks, gambar, audio, video) telah dibuat atau dimodifikasi secara signifikan oleh sistem AI. Pemberitahuan ini wajib dilakukan ketika konten dipublikasikan secara luas.

Peraturan ini menetapkan kewajiban pelabelan wajib untuk produk yang dibuat atau diedit oleh AI, yang bertujuan untuk membuat ruang digital transparan, melindungi konsumen, dan mengharuskan pemasok dan penyebar untuk bertanggung jawab bersama jika kegagalan memberi label menyebabkan kebingungan atau kerusakan.

Untuk konten yang mensimulasikan orang, objek, tempat, atau peristiwa nyata, Rancangan Undang-Undang (RUU) tersebut menetapkan bahwa penyedia harus menerapkan langkah-langkah untuk mengidentifikasi secara jelas bahwa konten tersebut dibuat oleh AI dan memastikan kemampuan untuk mengautentikasi dan melacak asal-usulnya. Hal ini dianggap sebagai langkah penting dalam pengelolaan teknologi AI, sejalan dengan tren internasional di mana Uni Eropa (UE), Amerika Serikat, Jepang, dan Korea Selatan telah mengeluarkan peraturan serupa.

Meskipun sepakat tentang perlunya hal ini, banyak pakar dan pelaku bisnis berpendapat bahwa peraturan pelabelan dalam Rancangan Undang-Undang (RUU) perlu lebih spesifik. Pengacara Hoang Le Quan, Firma Hukum Perseroan Terbatas Komersial Vietnam (Lexcomm Vietnam LLC), berpendapat bahwa perlu diperjelas apakah penyedia AI dapat menentukan sendiri bentuk pelabelan tersebut atau harus mengikuti instruksi Pemerintah.

Jika ada pedoman, pedoman tersebut harus jelas dan memastikan keselarasan dengan standar internasional, menghindari persyaratan Vietnam yang sepenuhnya berbeda atau menciptakan kewajiban baru, terutama bagi pemasok multinasional, yang memengaruhi daya saing Vietnam dalam penerapan dan pengembangan AI dibandingkan dengan pasar lain seperti Uni Eropa (UE), Korea Selatan, atau Amerika Serikat.

Beberapa pendapat menekankan perlunya mendefinisikan secara jelas cakupan dan tingkat penerapannya, apakah semua konten dengan elemen AI harus diberi label, atau hanya produk yang sepenuhnya dibuat oleh AI atau diintervensi secara signifikan. Bapak Tran Van Tri, Direktur Perusahaan Saham Gabungan Vietnam Law Media (LuatVietnam.vn), mengatakan bahwa ketika konten hanya memiliki sebagian kecil yang menerapkan AI, apakah perlu diberi label atau tidak? Penting untuk menyatakan secara jelas apakah konten tersebut dibuat dengan bantuan AI atau sepenuhnya dibuat oleh AI.

Dalam industri hiburan, beberapa perusahaan menginginkan mekanisme yang fleksibel untuk membebaskan produk AI dari kewajiban pelabelan yang kaku, dan sebagai gantinya menerapkan peringatan atau pengungkapan diri yang transparan tergantung pada tingkat penggunaannya. AI banyak digunakan untuk meningkatkan kualitas suara, gambar, dan efek. Jika semuanya diwajibkan untuk diberi label, biaya dan prosedur akan meningkat, sehingga menghambat kreativitas.

Pemimpin Kementerian Sains dan Teknologi mengatakan bahwa Rancangan Undang-Undang Kecerdasan Buatan disusun dengan tujuan menemukan keseimbangan yang wajar antara pengelolaan dan dorongan pengembangan, memastikan transparansi, kelayakan, dan mendekati standar internasional. Tujuan pelabelan adalah untuk memperjelas batasan antara konten buatan manusia dan konten yang dihasilkan mesin, menghindari kedua ekstrem, baik pengelolaan yang longgar maupun pengetatan yang berlebihan, sehingga teknologi dapat dikembangkan dalam kerangka kerja yang transparan dan bertanggung jawab.

HA LINH

Sumber: https://nhandan.vn/minh-bach-hoa-san-pham-tri-tue-nhan-tao-post920112.html