Deepfake perang Gaza menimbulkan kekhawatiran tentang AI

[iklan_1]

Dilihat jutaan kali daring, gambar-gambar tersebut adalah deepfake yang dibuat menggunakan kecerdasan buatan. Jika diperhatikan dengan saksama, Anda dapat melihat tanda-tandanya: jari-jari yang melengkung aneh atau mata yang bersinar dengan cahaya yang tidak alami.

Namun, kemarahan yang ditimbulkan oleh gambar-gambar deepfake itu nyata adanya.

Foto-foto dari perang Israel-Hamas dengan jelas dan menyakitkan menggambarkan bahaya AI sebagai alat propaganda, yang digunakan untuk menciptakan gambar yang tampak nyata.

Sejak pertempuran dimulai bulan lalu, foto-foto hasil manipulasi digital yang beredar di media sosial telah digunakan untuk membuat klaim palsu tentang tanggung jawab atas korban jiwa atau untuk menyesatkan orang tentang kekejaman yang tidak pernah terjadi.

Gambar deepfake perang Gaza menimbulkan kekhawatiran baru gambar 1 — Seorang warga Palestina memunguti barang-barangnya dari reruntuhan di Gaza. Foto AP.

Kemajuan teknologi terjadi dengan frekuensi yang semakin meningkat dan minimnya pengawasan. Hal ini memperjelas risiko AI menjadi bentuk senjata baru dan memberikan gambaran awal tentang apa yang akan terjadi dalam konflik, pemilu, dan peristiwa besar lainnya di masa mendatang.

“Situasi akan menjadi jauh lebih buruk sebelum membaik,” kata Jean-Claude Goldenstein, CEO CREOpoint, perusahaan teknologi yang berbasis di San Francisco dan Paris yang menggunakan AI untuk menilai validitas keluhan daring.

Perusahaannya telah menyusun basis data gambar deepfake paling viral yang muncul dari Gaza. "Gambar, video , dan audio: dengan AI kreatif, ini adalah langkah maju yang belum pernah Anda lihat sebelumnya," ujarnya.

Imran Ahmed, CEO Center for Countering Digital Hate, sebuah lembaga nirlaba yang melacak misinformasi terkait perang, mengatakan bahwa para propagandis yang menciptakan gambar-gambar tersebut terampil dalam menyasar impuls dan kecemasan terdalam seseorang.

Semakin menakutkan gambarnya, semakin besar kemungkinan pengguna mengingat dan membagikannya, sehingga tanpa sengaja menyebarkan misinformasi lebih lanjut. Misinformasi serupa yang dihasilkan AI telah mulai menyebar luas sejak konflik Rusia-Ukraina.

Setiap konflik atau musim pemilu baru menghadirkan peluang baru bagi penyebar disinformasi. Hal ini membuat banyak pakar AI dan ilmuwan politik memperingatkan risiko di tahun mendatang, ketika beberapa negara menyelenggarakan pemilu besar, termasuk Amerika Serikat, India, Pakistan, Ukraina, Indonesia, dan Meksiko.

Risiko bahwa AI dan media sosial dapat digunakan untuk menyebarkan kebohongan kepada pemilih Amerika telah membuat khawatir para anggota parlemen dari kedua partai di Washington. Dalam sidang dengar pendapat baru-baru ini tentang bahaya teknologi deepfake, Perwakilan AS Gerry Connolly, seorang Demokrat dari Virginia, mengatakan bahwa AS perlu berinvestasi dalam pendanaan pengembangan perangkat AI yang dirancang untuk melawan AI lainnya.

Menanggapi secara efektif tantangan politik dan sosial yang ditimbulkan oleh misinformasi yang dihasilkan AI akan membutuhkan teknologi yang lebih baik dan regulasi yang lebih baik, kata profesor Universitas Buffalo David Doermann.

Mai Anh (menurut AP)

[iklan_2]
Sumber