FBI berkata AI digunakan untuk 'peras ugut' dan gangguan

Dalam amaran yang diedarkan minggu ini, FBI berkata ia baru-baru ini memerhatikan peningkatan dalam mangsa pemerasan yang mengatakan mereka telah disasarkan menggunakan AI untuk mengedit imej biasa, yang diambil daripada siaran dalam talian, mesej peribadi atau sembang video , kepada versi palsu.

FBI berkata siapa yang digunakan untuk mengumpul wang dan merakamnya gambar 1 — Polis Sepanyol pernah menangkap seorang pengaturcara yang menggunakan AI untuk mencipta imej pornografi kanak-kanak palsu. Foto: Daily Mail

"Imej itu kemudiannya dihantar terus kepada mangsa oleh pelaku untuk memeras ugut atau gangguan seksual. Sebaik sahaja diedarkan, mangsa mungkin menghadapi cabaran besar dalam menghalang perkongsian berterusan kandungan yang dimanipulasi, serta mengeluarkannya daripada internet," kata amaran itu.

Biro itu berkata imej-imej itu kelihatan "benar kepada kehidupan", sambil menyatakan bahawa kanak-kanak juga telah menjadi sasaran dalam beberapa kes.

Pada bulan Februari, polis di Sepanyol menahan seorang pengaturcara komputer yang menggunakan AI untuk mencipta imej penderaan kanak-kanak yang mengerikan dalam apa yang dipercayai sebagai salah satu tangkapan pertama seumpamanya.

FBI tidak menjelaskan secara terperinci tentang program AI yang digunakan untuk mencipta imej seksual, tetapi menyatakan bahawa kemajuan teknologi "terus meningkatkan kualiti, penyesuaian dan kebolehcapaian penciptaan kandungan dikuasakan AI."

Mengedit foto biasa untuk mencipta imej erotik hampir setua fotografi itu sendiri, tetapi letupan alat AI sumber terbuka baru-baru ini telah menjadikan proses lebih mudah berbanding sebelum ini.

Foto atau video palsu selalunya tidak dapat dibezakan daripada versi kehidupan sebenar, dan beberapa tapak web serta rangkaian sosial yang didedikasikan untuk mencipta dan bertukar-tukar imej seksual berkuasa AI telah muncul sejak beberapa tahun kebelakangan ini.

Ini dianggap sebagai salah satu siri risiko yang boleh ditimbulkan oleh kecerdasan buatan kepada masyarakat, seperti yang dibimbangkan dan diberi amaran oleh pakar baru-baru ini.

Hoang Anh (menurut Daily Mail, Reuters)

Sumber