Risiko AI memanipulasi gambar pribadi

Perkembangan kecerdasan buatan (AI) tidak hanya mengancam pekerjaan para seniman di seluruh dunia , tetapi juga menempatkan pengguna internet pada risiko gambar mereka dimanipulasi dengan berbagai cara.

Alat AI dengan mudah menciptakan produk teknologi palsu. (Foto ilustrasi)

“Era deepfake”

Di sisi lain, AI, di tangan yang salah, dapat dengan mudah mencuri gambar dari akun media sosial seseorang dan mengubahnya menjadi referensi yang tidak diinginkan. Misalnya, situs web pornografi dapat menggunakan gambar seseorang tanpa izin.

"Kita berada di era deepfake," kata Hadi Salman, seorang peneliti di Massachusetts Institute of Technology. "Sekarang siapa pun dapat memanipulasi gambar dan video untuk membuat orang 'melakukan' sesuatu yang sebenarnya tidak mereka lakukan."

Deepfake adalah gabungan kata “deep learning” dan “fake”, yaitu metode penggunaan AI untuk menciptakan produk teknologi palsu berupa audio, gambar, atau bahkan video .

Hanya dalam hitungan detik, dengan beberapa perintah sederhana, AI dapat menciptakan gambar apa pun yang diinginkan "orang jahat". Misalnya, seseorang dapat meminta AI untuk membuat foto Paus mengenakan mantel Balenciaga, lalu mengunggahnya di internet sebelum terbukti foto tersebut palsu.

Teknologi AI juga memukau pengguna dengan kemampuannya menciptakan karya seni dengan gaya seniman tertentu. Misalnya, Anda dapat membuat lukisan kucing yang tampak seperti dilukis dengan gaya pelukis terkenal Vincent Van Gogh.

Bagi seniman visual, alat-alat ini berisiko membuat mereka kehilangan pekerjaan karena model AI meniru gaya unik mereka dan menciptakan karya seni tanpa izin mereka.

AI Propeller

Eveline Fröhlich, yang tinggal di Stuttgart, Jerman, adalah salah satu dari semakin banyak seniman yang berjuang melawan pengaruh AI yang berlebihan dan mencoba menemukan cara untuk melindungi karya visual mereka secara daring dari manipulasi.

Baru-baru ini, Ibu Fröhlich mempelajari tentang alat bernama Glaze, yang dikembangkan oleh ilmuwan komputer di Universitas Chicago (AS) untuk mencegah penyalahgunaan model AI.

Ben Zhao, seorang profesor ilmu komputer di Universitas Chicago dan salah satu peneliti utama pada proyek Glaze, mengatakan kepada CNN bahwa alat tersebut dimaksudkan untuk melindungi karya unik seniman dari mereka yang melatih model AI.

Perangkat lunak Glaze menggunakan algoritma pembelajaran mesin untuk membuat perubahan kecil pada gambar digital yang tidak terlihat oleh mata telanjang, tetapi menciptakan lapisan pelindung untuk karya di lingkungan daring, mengelabui model AI, sehingga tidak dapat menyalin gaya penulis.

Berkat Glaze, karya seni "ditutupi dengan jubah tembus pandang", yang mencegah AI untuk "membaca" gambar tersebut.

Sebagai contoh, Zhao menjelaskan, seorang seniman dapat mengunggah gambar lukisan cat minyaknya sendiri, yang kemudian diproses melalui Glaze. Ketika model AI "membaca" lukisan tersebut, mereka akan melihatnya sebagai sketsa arang—sementara manusia akan langsung mengenalinya sebagai lukisan cat minyak. Setelah diproses melalui Glaze, karya seni tersebut kini akan terlihat sangat berbeda di mata AI.

Tim Zhao merilis versi pertama Glaze Maret lalu, dan telah diunduh lebih dari satu juta kali. Minggu lalu, tim merilis versi gratis Glaze secara daring.

Tim berharap alat Glaze akan membantu melindungi hak cipta artis hingga peraturan dan undang-undang khusus ditetapkan.

Sejak memperkenalkan Glaze, kata Tn. Zhao, ia telah melihat peningkatan jumlah pengisi suara, novelis, musisi, dan jurnalis yang menghubungi timnya untuk menanyakan tentang versi Glaze untuk bidang mereka.

Seniman visual yang berbasis di California, Jon Lam, menggunakan alat Glaze untuk membantu melindungi karya seni daringnya agar tidak digunakan untuk melatih model AI, dan mengatakan ia sekarang menggunakan aplikasi tersebut untuk semua karya seni yang ia bagikan daring.

Selama bertahun-tahun, seniman seperti dirinya telah mengunggah karya mereka dalam resolusi penuh secara daring sebagai bentuk kebanggaan, ujarnya. "Kami ingin orang-orang melihat betapa detail dan menakjubkannya foto-foto full HD. Namun, para seniman tidak tahu bahwa karya mereka dapat 'dimakan' oleh model AI, yang kemudian meniru gaya mereka dan membuat mereka menghadapi persaingan yang tidak adil.

"Sekarang kami tahu bahwa orang-orang mengambil karya beresolusi tinggi kami dan memasukkannya ke dalam mesin AI untuk bersaing di bidang yang sama dengan kami. Jadi, kami harus lebih berhati-hati dan mulai memikirkan cara melindungi diri sendiri," ujarnya.

Salman dan timnya baru saja merilis alat lain untuk melindungi gambar dari AI. Aplikasi bernama PhotoGuard ini memungkinkan pengguna untuk memberikan lapisan perlindungan tak terlihat pada gambar guna mencegah model AI memanipulasi gambar.

Tujuan PhotoGuard adalah untuk melindungi foto-foto yang telah diunggah daring oleh pembuatnya dari “manipulasi AI yang berbahaya,” kata Salman.

Aplikasi PhotoGuard bekerja dengan menyesuaikan piksel gambar sedemikian rupa sehingga tidak terlihat oleh mata manusia. Namun, perubahan yang tidak terlihat oleh mata telanjang ini cukup kuat dan dengan cermat menghindari upaya model AI untuk memanipulasi gambar.

Artinya, jika seseorang mencoba mengedit foto menggunakan AI setelah foto tersebut dilindungi oleh PhotoGuard, foto yang dihasilkan akan "sama sekali tidak realistis," jelas Salman.

Tidak berlisensi

Di sisi lain, bahkan jika alat AI mengambil dan memanipulasi gambar, apa yang mereka buat tidak dianggap dapat dilindungi hak cipta.

Sejak kemunculan dan popularitasnya, AI telah memicu perdebatan: apakah karya-karya ini memiliki hak cipta? Jika ya, siapa pemiliknya?

Kantor Hak Cipta Amerika Serikat (USCO) telah membuat keputusan resmi terkait karya-karya ini. Menurut USCO, gambar apa pun yang dihasilkan oleh AI berdasarkan perintah - (seperti aplikasi Midjourney, Dall-E, dan Stable Diffusion yang ada saat ini) - tidak akan dilindungi hak cipta di Amerika Serikat.

Hukum AS menyatakan bahwa kekayaan intelektual hanya dapat dilindungi hak cipta jika merupakan hasil kreativitas manusia. USCO saat ini hanya mengakui karya yang diciptakan oleh manusia. Oleh karena itu, mesin AI tidak akan dianggap sebagai pencipta, dan produk yang mereka ciptakan tidak akan dilindungi hak cipta.

"Jika unsur-unsur hak cipta tradisional dalam sebuah karya diciptakan oleh mesin, maka karya tersebut tidak dilindungi hak cipta oleh manusia, dan USCO tidak akan mendaftarkannya," kata Direktur USCO Shira Perlmutter.

Sumber: https://baoquocte.vn/nguy-co-ai-thao-tung-hinh-anh-ca-nhan-238723.html