Risiko AI memanipulasi imej peribadi

Perkembangan kecerdasan buatan (AI) bukan sahaja mengancam pekerjaan artis di seluruh dunia , tetapi juga meletakkan pengguna Internet berisiko imej mereka dimanipulasi dalam pelbagai cara.

Alat AI dengan mudah mencipta produk teknologi palsu. (Gambar ilustrasi)

“Zaman deepfake”

Sebaliknya, AI, di tangan yang salah, boleh dengan mudah mencuri imej daripada akaun media sosial individu dan mengubahnya menjadi rujukan yang tidak diingini. Sebagai contoh, tapak web lucah boleh menggunakan imej individu tanpa kebenaran.

"Kami berada dalam zaman deepfakes," kata Hadi Salman, seorang penyelidik di Massachusetts Institute of Technology. "Kini sesiapa sahaja boleh memanipulasi imej dan video untuk membuat orang 'melakukan' sesuatu yang mereka tidak lakukan."

Deepfake ialah gabungan perkataan "pembelajaran mendalam" dan "palsu", iaitu kaedah menggunakan AI untuk mencipta produk teknologi palsu dalam bentuk audio, imej atau video .

Hanya dalam beberapa saat, dengan beberapa arahan mudah, AI boleh mencipta sebarang imej yang dikehendaki oleh "orang jahat". Sebagai contoh, seseorang boleh meminta AI untuk mencipta foto Pope memakai kot Balenciaga dan kemudian menyiarkannya dalam talian sebelum ternyata foto itu palsu.

Teknologi AI juga telah memukau pengguna dengan keupayaannya untuk mencipta karya seni mengikut gaya artis tertentu. Sebagai contoh, anda boleh mencipta lukisan kucing yang kelihatan seperti dilukis dalam gaya pelukis terkenal Vincent Van Gogh.

Bagi artis visual, alatan ini berisiko menyebabkan mereka tidak bekerja kerana model AI meniru gaya unik mereka dan mencipta karya seni tanpa kebenaran mereka.

AI Propeller

Eveline Fröhlich, yang tinggal di Stuttgart, Jerman, adalah salah seorang artis yang semakin meningkat yang berjuang menentang keterlaluan AI dan cuba mencari cara untuk melindungi karya visual mereka dalam talian daripada manipulasi.

Baru-baru ini, Cik Fröhlich mengetahui tentang alat yang dipanggil Glaze, yang dibangunkan oleh saintis komputer di Universiti Chicago (AS) untuk mencegah penyalahgunaan model AI.

Ben Zhao, seorang profesor sains komputer di Universiti Chicago dan salah seorang penyelidik utama di Project Glaze, memberitahu CNN bahawa alat itu bertujuan untuk melindungi karya unik artis daripada unit latihan AI.

Perisian Glaze menggunakan algoritma pembelajaran mesin untuk membuat perubahan kecil pada imej digital yang tidak dapat dilihat dengan mata kasar, tetapi mencipta lapisan pelindung untuk kerja dalam persekitaran dalam talian, memperbodohkan model AI, menjadikannya tidak dapat menyalin gaya pengarang.

Terima kasih kepada Glaze, karya seni "tertutup dalam halimunan", menghalang AI daripada "membaca" imej.

Sebagai contoh, Encik Zhao menjelaskan, seorang artis boleh memuat naik imej lukisan minyak mereka sendiri, yang dijalankan melalui Glaze. Apabila model AI "membaca" lukisan itu, mereka akan melihatnya sebagai lakaran arang—manakala manusia akan segera mengenalinya sebagai lukisan minyak. Selepas menjalankannya melalui Glaze, karya seni kini akan kelihatan berbeza dengan ketara pada mata AI.

Pasukan Zhao mengeluarkan versi pertama Glaze Mac lalu dan telah mempunyai lebih daripada satu juta muat turun. Baru minggu lepas, pasukan itu mengeluarkan versi percuma Glaze dalam talian.

Pasukan berharap alat Glaze akan membantu melindungi hak cipta artis sehingga peraturan dan undang-undang tertentu diwujudkan.

Sejak memperkenalkan Glaze, Encik Zhao berkata, beliau telah melihat peningkatan dalam pelakon suara, novelis, pemuzik dan wartawan yang menghubungi pasukannya untuk bertanya tentang versi Glaze untuk bidang mereka.

Artis visual yang berpangkalan di California, Jon Lam menggunakan alat Glaze untuk membantu melindungi karya seni dalam taliannya daripada digunakan untuk melatih model AI, dan berkata dia kini menggunakan aplikasi itu untuk semua karya seni yang dikongsi dalam talian.

Selama bertahun-tahun, artis sepertinya menyiarkan karya mereka dalam resolusi penuh dalam talian sebagai satu kebanggaan, katanya. "Kami mahu orang ramai melihat betapa terperinci dan menakjubkan gambar HD penuh. Walau bagaimanapun, artis tidak tahu bahawa karya mereka boleh 'dimakan' oleh model AI, yang kemudiannya meniru gaya mereka dan mendedahkan mereka kepada persaingan yang tidak adil.

"Sekarang kami tahu bahawa orang ramai mengambil kerja resolusi tinggi kami dan memasukkannya ke dalam mesin AI untuk bersaing dalam ruang yang sama seperti kami. Jadi kami harus lebih berhati-hati dan mula berfikir tentang cara melindungi diri kami," katanya.

Salman dan pasukannya baru sahaja mengeluarkan alat lain untuk melindungi imej daripada AI. Aplikasi yang dipanggil PhotoGuard, membolehkan pengguna meletakkan lapisan perlindungan yang tidak kelihatan pada imej untuk menghalang model AI daripada memanipulasi imej.

Matlamat PhotoGuard adalah untuk melindungi foto yang telah dimuat naik dalam talian oleh pengarangnya daripada "manipulasi AI yang berniat jahat," kata Encik Salman.

Aplikasi PhotoGuard berfungsi dengan melaraskan piksel imej dengan cara yang tidak dapat dilihat oleh manusia. Walau bagaimanapun, perubahan ini, yang tidak dapat dilihat dengan mata kasar, cukup berkuasa dan dengan berhati-hati mengelakkan sebarang percubaan oleh model AI untuk memanipulasi imej.

Ini bermakna jika seseorang cuba mengedit foto menggunakan AI selepas ia dilindungi oleh PhotoGuard, foto yang dihasilkan akan "tidak realistik sama sekali," jelas Salman.

Tidak berlesen

Di sisi lain isu ini, walaupun alat AI mengambil dan memanipulasi imej, apa yang mereka cipta tidak diiktiraf sebagai hak cipta.

Sejak kemunculannya dan menjadi terkenal, AI juga telah mencetuskan perdebatan: adakah karya ini berhak cipta? Jika ya, mereka milik siapa?

Pejabat Hak Cipta AS (USCO) telah membuat keputusan rasmi mengenai karya ini. Menurut USCO, sebarang imej yang dicipta oleh AI berdasarkan arahan - (seperti aplikasi semasa Midjourney, Dall-E, dan Stable Diffusion) - tidak akan menjadi hak cipta di AS.

Undang-undang AS menyatakan bahawa harta intelek hanya boleh dilindungi hak cipta jika ia adalah hasil kreativiti manusia. USCO pada masa ini hanya mengiktiraf karya yang dicipta oleh manusia. Oleh itu, mesin AI tidak akan dianggap sebagai pengarang, dan produk yang mereka cipta tidak akan dilindungi hak cipta.

"Jika unsur hak cipta tradisional dalam karya dicipta oleh mesin, maka karya itu tidak mempunyai kepengarangan manusia, dan USCO tidak akan mendaftarkannya," kata Pengarah USCO Shira Perlmutter.

Sumber: https://baoquocte.vn/nguy-co-ai-thao-tung-hinh-anh-ca-nhan-238723.html