Ketelusan produk kecerdasan buatan

Banyak produk kecerdasan buatan (AI) hari ini tidak mendedahkan tahap campur tangan teknologi, menyukarkan pengguna untuk membezakan antara sebenar dan palsu. Memandangkan situasi ini, mentakrifkan dengan jelas kewajipan untuk telus dan melabelkan produk AI telah menjadi keperluan mendesak.

Gerai pameranFPT tentang aplikasi AI dalam pelbagai bidang.

Hari ini, daripada mencipta kandungan visual, audio, teks kepada sokongan keputusan automatik, banyak produk AI tidak dilabel dan dikongsi sebagai kandungan biasa. Akibatnya ialah pengguna tidak tahu sama ada mereka berinteraksi dengan kandungan yang dijana manusia atau AI dan mungkin percaya pada maklumat yang salah atau manipulasi.

Sebagai contoh, salun kecantikan menyiarkan iklan yang dijana AI dengan imej model, membuatkan pelanggan tersilap percaya ia adalah sebenar, tetapi apabila mereka mengalami perkhidmatan tersebut, mereka mendapati bahawa kualitinya tidak seperti yang diiklankan. Lebih berbahaya ialah AI mencipta foto palsu orang terkenal, video meniru kenyataan ahli politik, atau artikel yang dicipta oleh AI tetapi dengan nama orang sebenar, merosakkan kehormatan peribadi dan reputasi agensi dan organisasi.

Selain itu, kekurangan mekanisme pelabelan mengurangkan kepercayaan pengguna terhadap platform digital dan produk AI. Persekitaran digital yang tidak telus tentang asal usul kandungan akan membuatkan pengguna curiga dan jauh. Sementara itu, kebanyakan pengguna Vietnam tidak mempunyai tabiat mengenal pasti dan mengesahkan asal kandungan, dan alat teknikal untuk mengesan produk AI adalah terhad.

Menentukan ketelusan dan kewajipan pelabelan dengan jelas bukan sahaja keperluan etika teknologi, tetapi juga asas undang-undang untuk melindungi kedua-dua pengguna dan pembangun produk AI. Untuk memenuhi keperluan ini, Kementerian Sains dan Teknologi sedang membangunkan Undang-undang Kepintaran Buatan, dengan Perkara 12 menetapkan "Ketelusan, pelabelan dan akauntabiliti".

Sehubungan itu, pelabelan ialah penggunaan langkah teknikal untuk notis yang jelas, mudah dikenali dan boleh dibaca mesin bahawa kandungan (teks, imej, audio, video) telah dicipta atau diubah suai dengan ketara oleh sistem AI. Notis mesti dibuat apabila kandungannya diterbitkan secara meluas.

Peraturan ini menetapkan kewajipan pelabelan mandatori untuk produk yang dicipta atau diedit oleh AI, bertujuan untuk menjadikan ruang digital telus, melindungi pengguna, dan memerlukan pembekal dan penyerah untuk bertanggungjawab bersama jika kegagalan melabel menyebabkan kekeliruan atau kerosakan.

Untuk kandungan yang meniru orang, objek, tempat atau peristiwa sebenar, Draf Undang-undang menetapkan bahawa penyedia mesti menggunakan langkah untuk mengenal pasti dengan jelas bahawa kandungan itu dicipta oleh AI dan memastikan keupayaan untuk mengesahkan dan mengesan asalnya. Ini dianggap sebagai langkah penting dalam mengurus teknologi AI, selaras dengan trend antarabangsa apabila Kesatuan Eropah (EU), Amerika Syarikat, Jepun dan Korea Selatan semuanya telah mengeluarkan peraturan yang sama.

Walaupun bersetuju dengan keperluan itu, ramai pakar dan perniagaan percaya bahawa peraturan pelabelan dalam Draf Undang-undang perlu lebih spesifik. Peguam Hoang Le Quan, Firma Undang-undang Liabiliti Terhad Undang-undang Komersial Vietnam (Lexcomm Vietnam LLC), percaya bahawa adalah perlu untuk menjelaskan sama ada penyedia AI boleh membuat keputusan mengenai bentuk pelabelan sendiri atau mesti mengikut arahan Kerajaan.

Sekiranya terdapat garis panduan, ia perlu jelas dan memastikan keharmonian dengan piawaian antarabangsa, mengelakkan keperluan Vietnam berbeza sama sekali atau mewujudkan kewajipan baharu, terutamanya bagi pembekal multinasional, yang menjejaskan daya saing Vietnam dalam aplikasi dan pembangunan AI berbanding pasaran lain seperti Kesatuan Eropah (EU), Korea Selatan atau Amerika Syarikat.

Sesetengah pendapat menekankan keperluan untuk mentakrifkan dengan jelas skop dan tahap aplikasi, sama ada semua kandungan dengan elemen AI mesti dilabelkan, atau hanya produk yang dicipta sepenuhnya oleh AI atau campur tangan dengan ketara. Encik Tran Van Tri, Pengarah Syarikat Saham Bersama Media Undang-undang Vietnam (LuatVietnam.vn) berkata bahawa apabila kandungan hanya mempunyai sebahagian kecil yang menggunakan AI, adakah perlu melabelkannya atau tidak? Adalah perlu untuk menyatakan dengan jelas sama ada penciptaan bantuan AI atau AI dicipta sepenuhnya.

Dalam industri hiburan, sesetengah syarikat mahukan mekanisme yang fleksibel untuk mengecualikan produk AI daripada kewajipan pelabelan tegar, dan sebaliknya menggunakan amaran atau pendedahan kendiri yang telus bergantung pada tahap penggunaan. AI digunakan secara meluas untuk menambah baik bunyi, imej dan kesan. Jika semua perlu dilabelkan, kos dan prosedur akan meningkat, menghalang kreativiti.

Pemimpin Kementerian Sains dan Teknologi itu berkata bahawa Draf Undang-undang Kepintaran Buatan dibina ke arah mencari keseimbangan yang munasabah antara pengurusan dan galakan pembangunan, memastikan ketelusan, kebolehlaksanaan dan menghampiri piawaian antarabangsa. Matlamat pelabelan adalah untuk menjelaskan sempadan antara kandungan ciptaan manusia dan kandungan yang dihasilkan mesin, mengelakkan kedua-dua pengurusan longgar yang melampau atau pengetatan yang berlebihan, supaya teknologi boleh dibangunkan dalam rangka kerja yang telus dan bertanggungjawab.

HA LINH

Sumber: https://nhandan.vn/minh-bach-hoa-san-pham-tri-tue-nhan-tao-post920112.html