Rangkaian sosial X terpaksa menyekat carian Taylor Swift selepas imej lucah palsu penyanyi itu menjadi tular. Apabila mencari Taylor Swift pada platform X, pengguna akan melihat mesej ralat dan meminta untuk memuatkan semula halaman tersebut. Joe Benarroch – Pengarah Operasi Perniagaan X – berkata ini adalah tindakan awal dan sedang dilakukan dengan berhati-hati.

ofdhxx6v.png
Foto bogel Taylor Swift yang dicipta oleh AI membanjiri X dan Facebook sebelum dialih keluar. (Foto: Reuters)

Imej lucah Taylor Swift yang dijana AI mula diedarkan di X pada 24 Januari, mendorong peminat penyanyi itu menyiarkan beberapa siri foto sebenar bintang itu untuk "menenggelamkan" deepfake. Mereka juga meminta X mengambil tindakan yang lebih tegas untuk memadamkan foto ini dan melaporkan akaun yang berkongsi foto palsu. Slogan "melindungi Taylor Swift" juga menjadi trend teratas di platform.

Sehari kemudian, akaun yang dilaporkan telah digantung atau disekat, tetapi masih mudah untuk mencari lucah AI di X.

Dalam satu kenyataan pada hujung minggu, X berkata ia melarang perkongsian imej grafik tanpa kebenaran subjek dan mempunyai dasar toleransi sifar untuk kandungan tersebut. Kenyataan itu tidak menyebut nama Swift.

"Pasukan kami sedang aktif mengalih keluar semua imej yang telah dikenal pasti dan mengambil tindakan yang sewajarnya terhadap akaun yang menyiarkannya. Kami akan memantau dengan teliti keadaan untuk memastikan sebarang pelanggaran selanjutnya ditangani dengan segera dan kandungannya dialih keluar," kata X.

Kemajuan dalam AI generatif telah memudahkan untuk memalsukan imej lucah orang lain. Dengan X, selepas ia berada di bawah kawalan Elon Musk pada 2022, banyak peraturan penapisan telah dilonggarkan, sementara dia telah memberhentikan ribuan pekerja untuk menstabilkan kewangannya.

Menurut NBC News, tidak jelas dari mana imej palsu Taylor Swift berasal, tetapi ia telah ditanda air untuk menunjukkan ia datang dari laman web yang terkenal kerana mengedarkan imej lucah palsu selebriti. Laman web ini juga mempunyai bahagian khusus untuk AI deepfakes. Foto palsu Swift dilihat lebih 27 juta kali dan disukai lebih 260,000 kali selepas 19 jam disiarkan.

Berikutan kejadian itu, Ketua Pegawai Eksekutif Microsoft Satya Nadella menggesa agar lebih banyak pagar dipasang untuk mengawal selia AI. Dalam temu bual dengan NBC News, beliau berhujah bahawa kita mempunyai tanggungjawab untuk memantau teknologi yang muncul ini supaya kandungan yang lebih selamat dapat dihasilkan.

Menjawab soalan mengenai Deepfake Swift, ketua Microsoft berkata: "Ya, kita perlu bertindak. Saya rasa kita semua mendapat manfaat daripada dunia dalam talian yang selamat. Saya tidak fikir sesiapa mahu dunia dalam talian yang benar-benar tidak selamat untuk pencipta kandungan dan pengguna kandungan. Jadi saya fikir kita perlu bertindak segera dalam isu ini."

Menurut 404 Media, kumpulan sembang Telegram berkata ia menggunakan alat Pereka yang dijana AI Microsoft untuk memalsukan foto Taylor. Encik Nadella tidak mengulas secara langsung mengenai maklumat 404 Media, tetapi dalam satu kenyataan yang dihantar ke laman berita, Microsoft berkongsi bahawa ia sedang menyiasat laporan itu dan akan mengambil tindakan sewajarnya.

Pentadbiran Presiden AS Joe Biden menggelar penyebaran pornografi deepfake Taylor Swift sebagai "membimbangkan" dan menggesa syarikat media sosial untuk meneliti "peranan penting" mereka dalam menguatkuasakan peraturan untuk mencegah penyebaran maklumat palsu dan imej sensitif tanpa persetujuan.

Pada Oktober 2023, Presiden Biden menandatangani perintah eksekutif mengenai AI yang memfokuskan pada mengawal selia teknologi baru muncul dan risikonya.

(Menurut The Hill, WSJ)