Perang Israel-Hamas: Bahaya Gambar Palsu yang Dihasilkan AI

Bagaimana cara kerja gambar AI palsu?

AI ada di mana-mana akhir-akhir ini – bahkan dalam perang. Aplikasi kecerdasan buatan telah berkembang pesat tahun ini sehingga hampir semua orang dapat menggunakan generator AI untuk menciptakan gambar yang tampak realistis, setidaknya sekilas.

Foto palsu perang di Gaza yang dihasilkan AI.

Pengguna cukup memberikan beberapa petunjuk, termasuk spesifikasi dan informasi, kepada alat seperti Midjourney atau Dall-E. Alat AI tersebut kemudian akan mengubah teks, atau bahkan suara, petunjuk tersebut menjadi gambar.

Proses pembuatan gambar ini didasarkan pada apa yang dikenal sebagai pembelajaran mesin. Misalnya, jika seorang kreator ingin menampilkan seorang pria berusia 70 tahun sedang bersepeda, ia akan menelusuri basis datanya untuk mencocokkan istilah dengan gambar.

Berdasarkan informasi yang tersedia, algoritma AI akan menghasilkan gambar pesepeda lansia. Dengan semakin banyaknya masukan dan pembaruan teknis, alat-alat ini telah berkembang pesat dan terus berkembang.

Semua ini diterapkan pada gambar-gambar yang berkaitan dengan konflik Timur Tengah. Dalam konflik di mana "emosi begitu tinggi", misinformasi, termasuk yang disebarkan melalui gambar AI, memiliki dampak yang sangat besar, kata pakar AI Hany Farid.

Farid, seorang profesor analisis digital di Universitas California di Berkeley, mengatakan pertempuran sengit merupakan tempat berkembang biak yang sempurna untuk menciptakan dan menyebarkan konten palsu, serta menyulut emosi.

Jenis gambar AI perang Israel-Hamas

Gambar dan video yang dibuat dengan bantuan kecerdasan buatan telah memicu disinformasi terkait perang di Ukraina, dan itu terus terjadi dalam perang Israel-Hamas.

Menurut para ahli, gambar-gambar AI yang beredar di media sosial tentang perang sering kali terbagi dalam dua kategori. Yang pertama berfokus pada penderitaan rakyat dan membangkitkan simpati. Yang kedua adalah AI palsu yang membesar-besarkan peristiwa, sehingga memicu konflik dan meningkatkan kekerasan.

Foto palsu hasil rekayasa AI yang memperlihatkan ayah dan anak di reruntuhan Gaza.

Misalnya, kategori pertama mencakup foto di atas, yang memperlihatkan seorang ayah dan kelima anaknya di depan tumpukan puing. Foto tersebut dibagikan berkali-kali di X (sebelumnya Twitter) dan Instagram, serta ditonton ratusan ribu kali.

Gambar ini telah ditandai oleh komunitas, setidaknya di X, sebagai palsu. Gambar ini dapat dikenali dari berbagai kesalahan dan inkonsistensi yang umum terjadi pada gambar AI (lihat gambar di atas).

Anomali serupa juga dapat dilihat pada gambar AI palsu yang menjadi viral di X di bawah ini, yang dimaksudkan untuk menunjukkan sebuah keluarga Palestina yang sedang makan bersama di atas reruntuhan.

Foto palsu pesta Palestina yang dihasilkan AI.

Sementara itu, gambar lain yang menunjukkan pasukan melambaikan bendera Israel saat melewati pemukiman yang dipenuhi rumah-rumah yang hancur dibom termasuk dalam kategori kedua, yang dirancang untuk memicu kebencian dan kekerasan.

Dari mana gambar AI tersebut berasal?

Sebagian besar gambar konflik yang dihasilkan AI diunggah di platform media sosial, tetapi gambar tersebut juga tersedia di sejumlah platform dan organisasi lain, dan bahkan di beberapa situs berita.

Perusahaan perangkat lunak Adobe menjadi berita utama dengan menambahkan gambar hasil rekayasa AI ke dalam koleksi foto stoknya pada akhir tahun 2022. Gambar-gambar tersebut akan diberi label sesuai dengan namanya di dalam basis data.

Adobe kini juga menawarkan gambar AI tentang perang Timur Tengah untuk dijual — seperti ledakan, orang-orang yang berunjuk rasa, atau kepulan asap di belakang Masjid Al-Aqsa.

Adobe menawarkan gambar hasil rekayasa AI tentang pertempuran di Gaza.

Para kritikus menganggap hal ini meresahkan, karena beberapa situs terus menggunakan gambar-gambar tersebut tanpa melabelinya sebagai hasil karya AI. Gambar yang dimaksud, misalnya, muncul di halaman "Newsbreak" tanpa indikasi apa pun bahwa gambar tersebut merupakan hasil karya AI.

Bahkan Layanan Penelitian Parlemen Eropa, badan ilmiah Parlemen Eropa, mengilustrasikan teks daring tentang konflik Timur Tengah dengan gambar AI dari basis data Adobe — tanpa melabelinya sebagai hasil karya AI.

Observatorium Media Digital Eropa mendesak para jurnalis dan profesional media untuk sangat berhati-hati saat menggunakan gambar AI, dan menyarankan untuk tidak menggunakannya, terutama saat meliput peristiwa kehidupan nyata seperti perang di Gaza.

Seberapa berbahayakah gambar AI?

Konten dan gambar AI yang viral pasti akan membuat pengguna merasa tidak nyaman dengan semua yang mereka temui secara daring. "Jika kita memasuki dunia di mana gambar, audio, dan video dapat dimanipulasi , semuanya menjadi mencurigakan," jelas Farid, peneliti UC Berkeley. "Jadi, Anda kehilangan kepercayaan pada segalanya, termasuk kebenaran."

Itulah yang terjadi dalam kasus berikut: Sebuah gambar yang diyakini sebagai mayat bayi Israel yang hangus dibagikan di media sosial oleh Perdana Menteri Israel Benjamin Netanyahu dan beberapa politisi lainnya.

Seorang influencer anti-Israel, Jackson Hinkle, kemudian mengklaim bahwa gambar tersebut dibuat menggunakan kecerdasan buatan. Pernyataan Hinkle telah ditonton lebih dari 20 juta kali di media sosial dan memicu perdebatan sengit di platform tersebut.

Pada akhirnya, banyak organisasi dan alat verifikasi menyatakan bahwa gambar tersebut asli dan klaim Hinkle salah. Namun, jelas bahwa tidak ada alat yang dapat dengan mudah membantu pengguna mendapatkan kembali kepercayaan mereka yang hilang!

Hoang Hai (menurut DW)

Sumber: https://www.congluan.vn/chien-su-israel--hamas-moi-nguy-tu-nhung-hinh-anh-gia-mao-do-ai-tao-ra-post271979.html