Perang Israel-Hamas: Bahaya daripada Imej Palsu Dijana AI

Bagaimanakah imej AI palsu berfungsi?

AI ada di mana-mana hari ini - walaupun dalam peperangan. Aplikasi kecerdasan buatan telah bertambah baik pada tahun ini sehinggakan hampir semua orang boleh menggunakan penjana AI untuk mencipta imej yang kelihatan realistik, sekurang-kurangnya pada pandangan pertama.

Foto palsu perang di Gaza yang dihasilkan oleh AI.

Pengguna hanya menyediakan alat seperti Midjourney atau Dall-E dengan beberapa gesaan, termasuk spesifikasi dan maklumat, untuk melakukan ini. Alat AI kemudian menukar teks, atau suara, gesaan kepada imej.

Proses penjanaan imej ini adalah berdasarkan apa yang dikenali sebagai pembelajaran mesin. Contohnya, jika pencipta meminta untuk menunjukkan lelaki berusia 70 tahun menunggang basikal, mereka akan mencari pangkalan data mereka untuk memadankan istilah dengan imej.

Berdasarkan maklumat yang ada, algoritma AI akan menghasilkan imej penunggang basikal warga emas. Dengan semakin banyak input dan kemas kini teknikal, alatan ini telah bertambah baik dengan pesat dan sentiasa belajar.

Semua ini digunakan untuk imej yang berkaitan dengan konflik Timur Tengah. Dalam konflik di mana "emosi sangat tinggi," maklumat salah, termasuk penyebaran melalui imej AI, mempunyai kesan yang besar, kata pakar AI Hany Farid.

Farid, seorang profesor analisis digital di University of California di Berkeley, berkata pertempuran sengit adalah tempat pembiakan yang sempurna untuk mencipta dan menyebarkan kandungan palsu, serta menyemarakkan emosi.

Jenis imej AI perang Israel-Hamas

Imej dan video yang dicipta dengan bantuan kecerdasan buatan telah mencetuskan maklumat salah berkaitan perang di Ukraine, dan itu terus berlaku dalam perang Israel-Hamas.

Menurut pakar, imej AI yang beredar di media sosial tentang peperangan selalunya terbahagi kepada dua kategori. Seseorang memberi tumpuan kepada penderitaan orang dan menimbulkan simpati. Yang lain ialah AI palsu yang membesar-besarkan peristiwa, dengan itu mencetuskan konflik dan meningkatkan keganasan.

Gambar palsu bapa dan anak yang dihasilkan oleh AI di dalam runtuhan di Gaza.

Sebagai contoh, kategori pertama termasuk foto di atas seorang bapa dan lima anaknya di hadapan longgokan runtuhan. Ia telah dikongsi beberapa kali di X (dahulunya Twitter) dan Instagram, dan dilihat ratusan ribu kali.

Imej ini telah dibenderakan oleh komuniti, sekurang-kurangnya pada X, sebagai palsu. Ia boleh dikenali melalui pelbagai ralat dan ketidakkonsistenan yang biasa kepada imej AI (lihat imej di atas).

Anomali serupa juga boleh dilihat dalam imej AI palsu yang menjadi tular di X di bawah, yang bermaksud menunjukkan sebuah keluarga Palestin sedang makan bersama di atas runtuhan.

Gambar palsu parti Palestin yang dijana oleh AI.

Sementara itu, imej lain yang menunjukkan tentera mengibarkan bendera Israel ketika mereka melalui penempatan yang dipenuhi dengan rumah yang dibom jatuh ke dalam kategori kedua, direka untuk membangkitkan kebencian dan keganasan.

Dari mana datangnya imej AI sedemikian?

Kebanyakan imej konflik yang dijana oleh AI disiarkan pada platform media sosial, tetapi ia juga tersedia pada beberapa platform dan organisasi lain, malah di beberapa tapak berita.

Syarikat perisian Adobe telah menjadi tajuk utama dengan menambahkan imej yang dijana AI pada julat foto stoknya menjelang akhir tahun 2022. Ia akan dilabelkan sewajarnya dalam pangkalan data.

Adobe juga kini menawarkan imej AI perang Timur Tengah untuk dijual — seperti letupan, orang yang memprotes atau kepulan asap di belakang Masjid Al-Aqsa.

Adobe menawarkan imej yang dijana AI tentang pertempuran di Gaza.

Pengkritik mendapati perkara ini merisaukan, kerana sesetengah tapak terus menggunakan imej tanpa melabelkannya sebagai dijana AI. Imej yang dipersoalkan, sebagai contoh, muncul di halaman "Newsbreak" tanpa sebarang petunjuk bahawa ia dijana AI.

Malah Perkhidmatan Penyelidikan Parlimen Eropah, cabang saintifik Parlimen Eropah, menggambarkan teks dalam talian tentang konflik Timur Tengah dengan imej AI daripada pangkalan data Adobe — tanpa melabelkannya sebagai dijana AI.

Balai Cerap Media Digital Eropah menggesa wartawan dan profesional media supaya berhati-hati apabila menggunakan imej AI, menasihatkan agar tidak digunakan, terutamanya apabila membuat liputan peristiwa kehidupan sebenar seperti perang di Gaza.

Betapa bahayanya imej AI?

Kandungan dan imejan AI yang viral pasti membuatkan pengguna berasa tidak senang tentang semua yang mereka hadapi dalam talian. "Jika kita masuk ke dunia ini di mana imej, audio dan video boleh dimanipulasi , segala-galanya menjadi disyaki," jelas penyelidik UC Berkeley, Farid. "Jadi anda kehilangan kepercayaan dalam segala-galanya, termasuk kebenaran."

Itulah yang berlaku dalam kes berikut: Imej yang dipercayai mayat bayi Israel yang hangus telah dikongsi di media sosial oleh Perdana Menteri Israel Benjamin Netanyahu dan beberapa ahli politik lain.

Pengaruh anti-Israel, Jackson Hinkle, kemudian mendakwa bahawa imej itu dicipta menggunakan kecerdasan buatan. Kenyataan Hinkle telah dilihat lebih daripada 20 juta kali di media sosial dan membawa kepada perdebatan hangat di platform.

Akhirnya, banyak organisasi dan alat pengesahan mengisytiharkan bahawa imej itu adalah nyata dan dakwaan Hinkle adalah palsu. Walau bagaimanapun, adalah jelas bahawa tiada alat yang boleh membantu pengguna mendapatkan semula kepercayaan mereka yang hilang dengan mudah!

Hoang Hai (menurut DW)

Sumber: https://www.congluan.vn/chien-su-israel--hamas-moi-nguy-tu-nhung-hinh-anh-gia-mao-do-ai-tao-ra-post271979.html