Mengapa video banjir palsu yang dicipta oleh AI boleh "memintas" Facebook dan TikTok

(NLDO) - Video palsu yang dicipta oleh AI sering menarik sebilangan besar penonton dan perkongsian, kerana ia menarik rasa ingin tahu dan simpati kepada orang ramai di kawasan yang dilanda banjir.

Semasa banjir berpanjangan di wilayah Tengah, banyak kandungan buatan AI palsu telah tersebar di media sosial. Kandungan video ini terutamanya tertumpu kepada imej orang yang terperangkap, rumah dihanyutkan banjir, penyelamatan kecemasan..., malah memesongkan keadaan dan menyerang pihak berkuasa.

Video palsu ini menarik ratusan ribu hingga jutaan tontonan dan perkongsian kerana ia menarik simpati dan menimbulkan emosi yang kuat, seperti adegan budak lelaki memeluk anjing di atas bumbung di tengah lautan air, orang ramai bergelut dalam banjir... Banyak akaun mengambil kesempatan daripada simpati untuk "menarik" interaksi, menjual produk atau menghasut pendapat umum.

Pengguna berkongsi imej yang tidak diketahui asalnya menyebabkan berita palsu tersebar dengan cepat dan menyebabkan salah faham yang serius tentang situasi sebenar.

Terutama, walaupun ini adalah produk AI, apabila disiarkan di rangkaian sosial, ia tidak dilabelkan AI oleh platform.

Video yang dijana AI disiarkan di media sosial tetapi tidak dilabelkan sebagai dihasilkan oleh AI

Encik Le Anh Bang, Pengarah Penyelesaian Pelanggan di Syarikat Saham Bersama Teknologi Haravan, berkata fakta bahawa banyak video dicipta atau campur tangan dengan AI tetapi tidak memaparkan label "dijana AI" pada platform TikTok dan Facebook mungkin berpunca daripada perubahan dalam cara platform mengenal pasti dan mengklasifikasikan kandungan.

Menurut Encik Bang, jika video dicipta sepenuhnya oleh AI, kemungkinan untuk dikesan dan dilabelkan masih tinggi. Walau bagaimanapun, dengan kandungan yang melibatkan penyertaan manusia, seperti menggunakan imej dan video sebenar dan kemudian bergantung pada AI untuk membantu memotong, mengedit adegan atau membuat pergerakan, sistem mendapati sukar untuk menentukan sempadan antara "kandungan jana AI" dan "kandungan berbantu AI".

Kekaburan inilah yang menyebabkan banyak video dengan elemen AI masih dipaparkan sebagai klip biasa, tanpa amaran.

Menurut Encik Bang, teknologi AI kini berkembang pada kadar yang sangat pantas, manakala platform memerlukan masa untuk mengemas kini algoritma dan membina kriteria pengiktirafan baharu.

Walaupun kebanyakan kandungan dalam persekitaran digital hari ini mempunyai penyertaan AI, koridor undang-undang masih disempurnakan, menjadikan kawalan sepenuhnya sangat sukar.

Oleh itu, setiap pengguna rangkaian sosial perlu lebih berhati-hati dalam menerima dan berkongsi maklumat, kerana klik yang tidak disahkan secara tidak sengaja boleh membantu penyebaran berita palsu.

Kajian oleh firma penyelidikan yang berpangkalan di AS HostingAdvice mendapati bahawa 58% rakyat Amerika berumur 18-43 telah tertipu oleh kandungan yang dijana AI, menonjolkan bahaya berita palsu yang semakin meningkat dan penghakisan kepercayaan terhadap maklumat pada platform.

Sumber: https://nld.com.vn/ly-do-khien-video-bao-lu-gia-duoc-tao-boi-ai-co-the-qua-mat-facebook-tiktok-196251124122152335.htm