Pornografi palsu, masalah dalam perlumbaan AI

Deepfakes ialah video dan imej yang dicipta atau diubah secara digital menggunakan kecerdasan buatan (AI) atau pembelajaran mesin (ML). Pornografi yang dicipta menggunakan teknologi itu mula tersebar di internet beberapa tahun lalu apabila pengguna Reddit berkongsi klip lucah palsu dengan wajah selebriti.

Foto: GI

Sesiapa sahaja boleh menjadi mangsa.

Sejak itu, pencipta deepfake terus menyiarkan video dan imej serupa yang menyasarkan pengaruh dalam talian, wartawan dan orang lain dengan profil awam. Beribu-ribu video sedemikian wujud di banyak laman web.

Dengan teknologi AI yang semakin mudah diakses, ini membolehkan pengguna menukar sesiapa sahaja yang mereka mahu menjadi "bintang lucah" tanpa kebenaran mereka, atau lebih berbahaya, menggunakan teknologi untuk memfitnah atau memeras ugut orang lain.

Pakar berkata masalah itu boleh menjadi lebih teruk dengan pembangunan alat AI generatif yang dilatih pada berbilion-bilion imej daripada internet dan menjana kandungan baharu menggunakan data sedia ada.

"Realitinya ialah teknologi akan terus berkembang pesat, ia akan terus berkembang, dan ia akan terus menjadi lebih mudah didapati dan boleh diakses," kata Adam Dodge, pengasas EndTAB, sebuah kumpulan yang menyediakan latihan mengenai penyalahgunaan teknologi. "Dan selagi itu berterusan, orang ramai pasti akan ... terus menyalahgunakan teknologi itu untuk membahayakan orang lain, terutamanya melalui keganasan seksual dalam talian, pornografi palsu dan bogel palsu."

Noelle Martin dari Perth, Australia, telah mengalami realiti itu. Lelaki berusia 28 tahun itu menemui lucah palsu dirinya 10 tahun lalu apabila, kerana ingin tahu, dia mencari imejnya sendiri di Google pada suatu hari. Sehingga hari ini, Martin berkata dia tidak tahu siapa yang mencipta imej atau video lucah palsu itu. Dia mengesyaki seseorang menggunakan imej media sosialnya untuk mencipta video lucah.

Martin cuba menghubungi tapak untuk mengalih keluar video, tetapi usahanya sia-sia. Ada yang tidak menjawab. Yang lain menurunkannya tetapi dengan cepat menyiarkannya semula. "Anda tidak boleh menang," kata Cikgu Martin. "Ia akan berada di internet selama-lamanya dan ia boleh merosakkan hidup anda."

Usaha syarikat teknologi untuk menyelesaikan masalah

Sesetengah model AI mengatakan mereka telah menyekat akses kepada imej lucah.

OpenAI berkata ia mengalih keluar kandungan lucah daripada data yang digunakan untuk melatih penjana imej DALL-Enya, yang sepatutnya mengehadkan kemungkinan ia disalahgunakan. Syarikat itu juga menapis permintaan dan mengatakan ia menghalang pengguna daripada mencipta imej AI selebriti dan ahli politik terkemuka. Model lain, Midjourney, juga menyekat penggunaan kata kunci tertentu dan menggalakkan pengguna membenderakan imej bermasalah kepada penyederhana.

Sementara itu, Stability AI juga telah melancarkan kemas kini yang menghalang pengguna daripada mencipta imej eksplisit. Perubahan ini berlaku selepas laporan bahawa sesetengah pengguna menggunakan teknologi untuk mencipta bogel yang diilhamkan oleh selebriti.

Jurucakap AI Kestabilan Motez Bishara berkata penapis menggunakan gabungan kata kunci dan teknik lain seperti pengecaman imej untuk mengesan kebogelan. Tetapi pengguna boleh mengubah suai perisian dan mencipta apa sahaja yang mereka mahu, kerana syarikat itu telah mengeluarkan kod sumber terbuka aplikasinya.

Beberapa syarikat media sosial juga mengetatkan peraturan untuk melindungi platform mereka daripada bahan berbahaya dengan lebih baik.

Bulan lalu, TikTok berkata semua kandungan deepfake atau dimanipulasi mesti dilabelkan untuk menunjukkan ia palsu atau diubah dalam beberapa cara.

Platform permainan Twitch juga baru-baru ini mengemas kini polisinya mengenai imej deepfake selepas seorang strim popular bernama Atrioc ditangkap membuka tapak lucah deepfake pada penyemak imbasnya semasa strim langsung pada akhir Januari.

Apple dan Google berkata mereka baru-baru ini mengalih keluar aplikasi daripada kedai aplikasi mereka kerana menjalankan video palsu yang tidak senonoh secara seksual untuk memasarkan produk mereka.

Daripada penyanyi Barat kepada idola K-pop.

Penyelidikan tentang lucah palsu jarang berlaku, tetapi laporan 2019 oleh syarikat AI DeepTrace Labs mendapati ia hampir sepenuhnya dipersenjatai terhadap wanita, dengan pelakon Barat paling menjadi sasaran, diikuti oleh penyanyi K-pop.

Jurucakap Meta Dani Lever berkata dalam satu kenyataan bahawa dasar syarikat mengehadkan kedua-dua kandungan dewasa yang dijana AI dan bukan AI, dan ia mengehadkan halaman aplikasi yang menjana deepfake daripada pengiklanan pada platformnya.

Pada bulan Februari, Meta, serta tapak dewasa seperti Only**** dan Porn***, mula mengambil bahagian dalam alat dalam talian yang dipanggil Take It Down, yang membenarkan remaja melaporkan imej dan video seksual eksplisit diri mereka daripada internet. Tapak ini menyokong kedua-dua video yang dirakam secara rahsia dan video yang dijana AI.

Hoang Ton (mengikut AP)

Sumber: https://www.congluan.vn/deepfake-khieu-dam-van-nan-trong-cuoc-dua-ai-post244021.html