Kebenaran tentang foto 'Kami berempat berumur 90 tahun'

Imej/video yang dijana AI menarik puluhan ribu interaksi di rangkaian sosial, membuatkan ramai orang tersalah anggap bahawa mereka adalah sebenar.

Imej yang dijana AI menarik ribuan interaksi di Facebook.

"Kami empat beradik, hari ini genap 90 tahun, kami menunggu ucapan tahniah." Kapsyen itu ditulis bersama foto kolaj, dengan empat gadis kecil di atas dan empat wanita tua di bahagian bawah, semuanya dengan senyuman cerah di wajah mereka, menarik lebih daripada 45,000 suka, hampir 9,000 komen dan lebih daripada 500 perkongsian.

Di bawah, terdapat banyak posting yang mengucapkan tahniah kepada empat "orang tua" di atas kesihatan mereka dan memuji kecantikan mereka. Walau bagaimanapun, ini adalah lukisan AI. Akaun yang berkongsinya tidak pun mencipta imej ini sendiri, tetapi mengambilnya daripada sumber asing.

Terima kasih kepada pembangunan alatan AI seperti Copilot, Midjourney atau DALL-E, pengguna boleh mencipta imej yang sangat realistik dengan hanya satu arahan.

Tidak sukar untuk mencari imej yang dijana AI di rangkaian sosial. Imej-imej itu selalunya mempunyai tema keluarga dan kehidupan, menarik kepada emosi untuk menarik banyak interaksi.

Walaupun kehadiran mereka secara meluas, tidak mudah bagi semua orang untuk membezakan antara imej yang dijana AI dan yang biasa. Selain hanya "suka-umpan", kandungan ini boleh disalahgunakan untuk tujuan berniat jahat, seperti penyamaran dan menyebarkan berita palsu.

Alat "Suka memancing" di rangkaian sosial

Di Facebook, Instagram atau X, pengguna boleh menemui imej/ video yang dicipta oleh AI dengan mudah. Kandungan seperti "kami 4 beradik perempuan" atau "gadis ini melukis potret arwah bapanya tetapi tiada siapa yang menyokongnya"... menarik puluhan ribu interaksi dan ribuan komen.

Imej-imej itu terutamanya berkaitan dengan keluarga, cinta, kesedihan... Kebanyakan komen menyatakan simpati untuk siaran itu, kebanyakan tidak mengiktiraf imej itu dicipta oleh AI. Banyak akaun yang menyiarkan siaran itu juga tidak mencatatnya dengan jelas.

Sesetengah imej yang dijana AI disalah anggap sebagai foto sebenar di Facebook.

Menurut pengulas pakar Le Cong Minh Khoi, kandungan AI semakin muncul di Facebook. Banyak siaran disyorkan oleh platform dengan penglibatan tinggi, tetapi kebanyakannya tidak dilabel dengan jelas sebagai dicipta oleh AI.

"Orang yang kurang pendedahan kepada teknologi hampir tidak dapat membezakannya. Beribu-ribu komen pada siaran itu bersimpati, seperti 'sangat menyentuh'.

AI telah maju ke tahap di mana beberapa model baharu boleh membetulkan ralat biasa seperti tangan dan gigi. Saya sendiri perlu menyemak semula imej. Tanpa label pemberitahuan AI, pengguna hampir tidak dapat mengenalinya,” kongsi Encik Khoi.

Menurut tinjauan yang diterbitkan pada Mac 2024 oleh University of Waterloo (Kanada), hanya 61% daripada 260 peserta tinjauan dapat membezakan antara foto orang yang dijana AI dan foto orang sebenar, lebih rendah daripada kadar jangkaan penyelidik (85%).

Sesetengah kandungan yang dijana AI menarik puluhan ribu interaksi.

Sebagai seorang yang kerap bekerja di rangkaian sosial, Encik Khoi mengulas bahawa imej/video AI sedang disalahgunakan untuk meningkatkan tontonan, meningkatkan interaksi atau bahkan melakukan penipuan.

“Kandungan AI dengan mudah boleh menyebabkan penonton dimanipulasi secara psikologi, percaya pada perkara yang tidak benar, malah terpikat untuk membeli produk berkualiti rendah atau percaya pada iklan yang diedit, teori konspirasi...”, tambah Encik Khoi.

Malah, kajian yang diterbitkan pada Mei 2024 oleh Google dan Duke University (AS) menunjukkan bahawa antara bentuk penyebaran maklumat salah, populariti imej AI hampir sama dengan teks dan foto yang diedit biasa.

Bagaimana untuk membezakan imej yang dihasilkan oleh AI?

Kualiti imej yang dijana AI semakin baik, menjadikannya sukar untuk dibezakan daripada foto sebenar. Walau bagaimanapun, pengguna masih boleh bergantung pada beberapa butiran jika mereka melihat dengan teliti.

AI sering menjana imej berdasarkan data daripada imej lain, jadi alat boleh bergelut dengan butiran yang kurang terlatih.

Menurut pakar keselamatan Ngo Minh Hieu, tangan dan jari adalah butiran yang ketara kerana AI sering mengalami kesukaran mencipta semula tangan, yang membawa kepada imej dengan jari tambahan atau cacat.

Imej pelakon Ryan Reynolds yang dihasilkan oleh AI. Foto: @joinrealmai/X .

Ambil foto Ryan Reynolds ini. Walaupun kebanyakannya realistik, jari-jari di tangan kanan Reynolds dibentuk secara luar biasa. Teks pada jaketnya juga tidak bermakna sama sekali. Ini adalah tanda jelas bahawa imej itu dicipta oleh AI, kerana ia masih belum mencipta teks atau logo yang tepat.

Seterusnya, adalah mungkin untuk menjejaki kesan pencahayaan dan bayang-bayang dalam imej. Jika sudut pencahayaan atau bayang-bayang adalah luar biasa, besar kemungkinan imej itu dihasilkan oleh AI.

Untuk kandungan yang berkongsi konteks yang sama, pengguna harus menyemak butiran pendua kerana AI sering mengalami kesukaran menjana elemen yang sama sekali berbeza.

Menurut BBC , ini adalah contoh "terlalu sempurna". Imej penyanyi Ariana Grande di bawah kelihatan sangat nyata, tetapi jika anda perhatikan dengan teliti, anda akan melihat bahawa wajahnya terlalu licin, menjadikan foto itu sangat tajam. Susunan flamingo di latar belakang juga tidak bagus.

Imej penyanyi Ariana Grande yang dijana AI. Foto: @agswaffle/Instagram .

Jika kandungan dalam format video, butiran untuk diperiksa termasuk pergerakan bibir yang mungkin tidak sepadan dengan pertuturan, mata berkedip sedikit atau luar biasa, kulit dengan tekstur kabur...

Akhir sekali, jika anda masih tidak pasti tentang muka, tangan atau pencahayaan, anda harus melakukan carian terbalik di Google dan alat yang serupa untuk menentukan sumber.

"Jika anda mempunyai keraguan tentang keaslian imej, anda boleh menggunakan enjin carian terbalik untuk menyemak sama ada imej itu telah muncul di tempat lain sebelum ini," tambah Encik Hieu.