Jejaring sosial X blokir kata kunci Taylor Swift setelah insiden gambar porno

Sejak Minggu sore, ketika mengetik kata kunci "Taylor Swift" ke dalam kotak pencarian jejaring sosial X (sebelumnya Twitter), pengguna menerima pesan "Maaf, terjadi kesalahan".

"Ini adalah langkah sementara yang diambil sebagai bentuk kehati-hatian kami karena kami mengutamakan keselamatan di area ini," kata Joe Benarroch, kepala operasi bisnis di X.

Taylor Swift menghadiri Golden Globe Awards ke-81 di Beverly Hills, California, AS, pada 7 Januari 2024. Foto: AFP

Sebelumnya pada 25 Januari, jejaring sosial X muncul dengan gambar-gambar porno deepfake AI Taylor Swift. Menurut laporan New York Times, gambar-gambar yang dibuat oleh kecerdasan buatan (AI) tersebut telah ditonton hingga 47 juta kali sebelum akun tersebut dikunci keesokan harinya.

X kemudian menonaktifkan beberapa akun lain yang membagikan gambar palsu tersebut, tetapi gambar-gambar tersebut segera menyebar ke platform media sosial lainnya. "Protect Taylor Swift" dengan cepat menjadi frasa yang sedang tren di X.

Skandal ini juga mendorong Gedung Putih untuk menyatakan keprihatinannya, menyerukan undang-undang untuk melindungi korban pelecehan daring. Sekretaris Pers Gedung Putih, Karine Jean-Pierre, menyebut gambar-gambar palsu tersebut "mengkhawatirkan" pada hari Jumat (26 Januari) dan mengatakan perusahaan media sosial memiliki tanggung jawab untuk mencegah penyebaran misinformasi semacam itu.

Screen Actors Guild of America (SAG-AFTRA) juga mengeluarkan pernyataan terkait masalah ini, yang menyatakan: "Pembuatan dan distribusi gambar palsu, terutama gambar yang bersifat seksual, tanpa persetujuan seseorang seharusnya ilegal. Sebagai masyarakat, kita berhak mengendalikan teknologi ini, tetapi kita harus bertindak sekarang sebelum terlambat."

Masalah gambar porno palsu selebritas di internet sudah ada sejak munculnya Photoshop. Namun, ledakan AI-lah yang benar-benar menimbulkan kekhawatiran karena kemampuan luar biasa teknologi ini dalam menciptakan gambar palsu yang tampak realistis dan meyakinkan.

Di AS, hanya sembilan negara bagian yang saat ini memiliki undang-undang yang melarang pembuatan atau penyebaran deepfake tanpa izin, yaitu gambar sintetis yang dibuat untuk meniru rupa seseorang, terutama untuk digunakan dalam pornografi dan pemilu. Namun, belum ada regulasi yang jelas tentang dampak AI.

Hoai Phuong (menurut CNN, Reuters, Billboard)

Sumber: https://www.congluan.vn/mang-xa-hoi-x-chan-tu-khoa-taylor-swift-sau-vu-anh-khieu-dam-gia-mao-post282846.html