FBI mengatakan AI digunakan untuk 'pemerasan' dan pelecehan

Dalam peringatan yang diedarkan minggu ini, FBI mengatakan pihaknya baru-baru ini mengamati peningkatan korban pemerasan yang mengatakan bahwa mereka telah menjadi sasaran penggunaan AI untuk mengedit gambar yang seharusnya normal, yang diambil dari kiriman daring, pesan pribadi atau obrolan video , menjadi versi palsu.

Polisi Spanyol pernah menangkap seorang programmer yang menggunakan AI untuk membuat gambar pornografi anak palsu. Foto: Daily Mail

"Gambar-gambar tersebut kemudian dikirim langsung kepada korban oleh pelaku untuk tujuan pemerasan atau pelecehan seksual. Setelah didistribusikan, korban mungkin menghadapi tantangan yang signifikan dalam mencegah penyebaran konten yang dimanipulasi secara terus-menerus, serta menghapusnya dari internet," demikian bunyi peringatan tersebut.

Biro tersebut mengatakan gambar-gambar itu tampak "sesuai dengan kehidupan nyata", sembari juga mencatat bahwa anak-anak juga menjadi sasaran dalam beberapa kasus.

Pada bulan Februari, polisi di Spanyol menangkap seorang programmer komputer yang menggunakan AI untuk membuat gambar-gambar mengerikan tentang pelecehan anak dalam apa yang diyakini sebagai salah satu penangkapan pertama dari jenisnya.

FBI tidak merinci program AI yang digunakan untuk membuat gambar seksual, tetapi mencatat bahwa kemajuan teknologi "terus meningkatkan kualitas, kustomisasi, dan aksesibilitas pembuatan konten bertenaga AI."

Mengedit foto biasa untuk menciptakan gambar erotis hampir setua fotografi itu sendiri, tetapi ledakan terkini alat AI sumber terbuka telah membuat proses tersebut lebih mudah dari sebelumnya.

Foto atau video palsu sering kali tidak dapat dibedakan dari versi aslinya, dan beberapa situs web dan jejaring sosial yang didedikasikan untuk membuat dan bertukar gambar seksual bertenaga AI bahkan telah muncul dalam beberapa tahun terakhir.

Hal ini dianggap sebagai salah satu dari serangkaian risiko yang dapat ditimbulkan oleh kecerdasan buatan terhadap masyarakat, seperti yang baru-baru ini dikhawatirkan dan diperingatkan oleh para ahli.

Hoang Anh (menurut Daily Mail, Reuters)

Sumber: https://www.congluan.vn/fbi-cho-biet-ai-dang-duoc-su-dung-de-tong-tien-va-quay-roi-post250849.html