Perang Deepfake of Gaza menimbulkan kebimbangan mengenai AI

Dilihat berjuta-juta kali dalam talian, imej tersebut adalah palsu yang dibuat menggunakan kecerdasan buatan. Jika anda melihat dengan teliti, anda boleh melihat tanda-tanda: jari melengkung aneh atau mata yang bersinar dengan cahaya yang tidak semulajadi.

Kemarahan yang dihasilkan oleh imej palsu itu, bagaimanapun, adalah nyata.

Gambar-gambar dari perang Israel-Hamas dengan jelas dan menyakitkan menggambarkan bahaya AI sebagai alat propaganda, digunakan untuk mencipta imej seperti hidup.

Sejak pertempuran bermula bulan lalu, gambar yang dimanipulasi secara digital yang beredar di media sosial telah digunakan untuk membuat dakwaan palsu mengenai tanggungjawab terhadap mangsa atau untuk mengelirukan orang ramai tentang kekejaman yang tidak pernah berlaku.

Imej palsu perang Gaza menimbulkan kebimbangan baharu imej 1 — Seorang warga Palestin mengutip barang-barang dari runtuhan di Gaza. foto AP.

Kemajuan teknologi berlaku dengan peningkatan kekerapan dan sedikit pengawasan. Itu menjadikan risiko AI menjadi satu lagi bentuk senjata jelas dan menawarkan gambaran awal tentang apa yang akan berlaku dalam konflik masa depan, pilihan raya dan acara besar lain.

"Perkara akan menjadi lebih teruk sebelum menjadi lebih baik," kata Jean-Claude Goldenstein, Ketua Pegawai Eksekutif CREOpoint, sebuah syarikat teknologi yang berpangkalan di San Francisco dan Paris yang menggunakan AI untuk menilai kesahihan aduan dalam talian.

Syarikatnya telah menyusun pangkalan data imej palsu paling viral yang muncul dari Gaza. "Imej, video dan audio: dengan AI kreatif, ini adalah satu langkah ke hadapan yang tidak pernah anda lihat sebelum ini," katanya.

Imran Ahmed, Ketua Pegawai Eksekutif Center for Countering Digital Hate, sebuah organisasi bukan untung yang menjejaki maklumat salah berkaitan perang, berkata propagandis yang mencipta imej sedemikian mahir menyasarkan dorongan dan kebimbangan terdalam orang.

Semakin menakutkan imej itu, semakin besar kemungkinan pengguna mengingati dan berkongsinya, secara tidak sengaja menyebarkan maklumat salah selanjutnya. Maklumat salah yang dijana AI serupa telah mula menjadi tular sejak konflik Rusia-Ukraine.

Setiap konflik atau musim pilihan raya baharu memberikan peluang baharu untuk penyebar maklumat salah. Itu menyebabkan ramai pakar AI dan saintis politik memberi amaran tentang risiko pada tahun akan datang, apabila beberapa negara mengadakan pilihan raya besar, termasuk Amerika Syarikat, India, Pakistan, Ukraine, Indonesia dan Mexico.

Risiko bahawa AI dan media sosial boleh digunakan untuk menyebarkan pembohongan kepada pengundi Amerika telah membimbangkan penggubal undang-undang dari kedua-dua parti di Washington. Pada pendengaran baru-baru ini mengenai bahaya teknologi deepfake, Wakil AS Gerry Connolly, seorang Demokrat Virginia, berkata AS perlu melabur dalam membiayai pembangunan alat AI yang direka untuk menentang AI lain.

Menjawab secara berkesan cabaran politik dan sosial yang ditimbulkan oleh maklumat salah yang dijana AI akan memerlukan teknologi yang lebih baik dan peraturan yang lebih baik, kata profesor Universiti Buffalo David Doermann.

Mai Anh (menurut AP)

Sumber