Kebenaran di balik video wawancara wanita yang mengenakan bikini ofensif

Isu sampah AI semakin kontroversial. Foto: SCMP .

Serangkaian video wawancara jalanan yang menampilkan perempuan berbikini baru-baru ini telah memicu komentar-komentar cabul. Kontennya sepenuhnya buatan AI, dirancang untuk mengelabui algoritma dengan angka dan menarik perhatian dengan gambar-gambar seksis.

Video yang tampak realistis diproduksi massal oleh perangkat AI murah, hanya dengan mengetikkan perintah deskripsi sederhana. Di balik ini terdapat industri kecil yang menggunakan AI untuk membuat video dalam jumlah besar, mendapatkan interaksi untuk dibayar oleh platform.

Para peneliti di kantor berita Prancis Agence France-Presse melacak ratusan video semacam itu di Instagram. Banyak situasi, termasuk ruang ganti dan reporter perempuan berpakaian minim yang mewawancarai di jalanan India dan Inggris, telah menimbulkan kekhawatiran tentang keselamatan perempuan.

Beberapa video, dalam bahasa Hindi, menggambarkan para pria muda dengan santai melontarkan lelucon seksis dan bahkan menyentuh wanita, sementara para pria di latar belakang menatap atau tertawa.

Banyak video telah ditonton puluhan juta kali, beberapa di antaranya memanfaatkan popularitasnya untuk menghasilkan uang dengan mempromosikan aplikasi obrolan dewasa. Sementara itu, penonton terkadang merasa bingung, berkomentar, dan mempertanyakan realitas konten yang mereka tonton. Menurut analisis perusahaan keamanan siber AS, GetReal Security, beberapa video dibuat menggunakan Veo 3, generator AI realistis milik Google.

“Ini adalah bagian dari dampak buruk gender yang disebabkan oleh teknologi yang dimediasi AI,” kata Nirali Bhatia, seorang psikolog siber di India, yang menekankan bahwa tren ini “memicu ideologi seksis.”

Video wanita yang dibuat oleh AI. Foto: Internet.

Tren ini juga mencerminkan lanskap internet yang semakin tercemar oleh video dan gambar buatan AI yang bersaing untuk mendapatkan perhatian. Perempuan juga telah menjadi alat untuk keterlibatan. Banyak video viral menampilkan perempuan yang mengeksploitasi laki-laki demi uang atau mensensasionalkan pelatih akuatik betina yang diserang paus pembunuh.

Tahun lalu, Alexios Mantzarlis, direktur Inisiatif Keamanan, Kepercayaan, dan Keselamatan di Cornell Tech, menemukan 900 akun Instagram yang kemungkinan besar dimiliki oleh "model" yang dihasilkan oleh AI. Mayoritas pemilik akun adalah perempuan dan seringkali mengenakan pakaian terbuka.

Bersama-sama, akun-akun palsu tersebut telah menarik 13 juta pengikut dan mengunggah lebih dari 200.000 gambar, dan orang-orang di baliknya sering kali menghasilkan uang dengan mengarahkan audiens mereka ke platform berbagi konten komersial.

Mengingat maraknya pemalsuan AI daring, Mantzarlis mengatakan angkanya kemungkinan akan jauh lebih tinggi. "Kita akan melihat lebih banyak konten tidak masuk akal yang mengeksploitasi standar tubuh yang tidak hanya tidak realistis tetapi juga sepenuhnya tidak benar," prediksinya.

Di YouTube dan TikTok, banyak kreator juga telah membuka kursus berbayar yang mengajarkan cara memonetisasi konten AI. Banyak platform seperti Meta telah mengurangi moderasi konten. Sebaliknya, YouTube justru lebih agresif dan menonaktifkan monetisasi untuk video AI.

"AI tidak menciptakan misogini, ia hanya mencerminkan dan memperkuat apa yang sudah ada," kata Divyendra Jadoun, seorang konsultan AI. Ia yakin bahwa algoritma dan proliferasi AI akan terus berlanjut selama audiens terus berinteraksi dengan konten ini.

Sumber: https://znews.vn/su-that-sau-nhung-video-phong-van-phu-nu-mac-bikini-phan-cam-post1581980.html