Perjuangan menentang Deepfake sebagai AI menjadi "senjata" dan "perisai"
Dalam era AI, konfrontasi antara penjenayah siber dan syarikat keselamatan bukan lagi sekadar perlumbaan teknologi, tetapi usaha untuk mendapatkan kembali kepercayaan yang terhakis oleh kandungan palsu yang semakin canggih.
Apabila apa yang dilihat dan didengar tidak lagi boleh dipercayai.
Hanya beberapa tahun yang lalu, pengguna boleh mengenal pasti deepfake melalui tanda-tanda yang agak "kasar" seperti ekspresi muka yang tidak semula jadi, pergerakan mulut yang tidak sepadan atau pergerakan mata yang luar biasa. Walau bagaimanapun, kaedah ini dengan cepat menjadi ketinggalan zaman apabila teknologi AI berkembang.
Pada masa ini, AI boleh mencipta semula imej dan suara dengan ketepatan yang sangat tinggi, malah mensimulasikan getaran halus dalam suara manusia. Dalam satu eksperimen oleh wartawan Gaby Del Valle, hanya menggunakan 9 saat audio yang dikumpul daripada media sosial, sistem AI telah mencipta versi palsu yang boleh mengekalkan perbualan dengan hampir meyakinkan.
Dalam kehidupan seharian, intuisi masih boleh membantu orang ramai mengesan anomali. Walau bagaimanapun, di tempat kerja atau transaksi kewangan—di mana maklumat diproses dengan cepat dan masa adalah penting—tanda-tanda yang mencurigakan ini mudah diabaikan, lalu meningkatkan risiko ditipu.
Deepfake tidak lagi terhad kepada kandungan hiburan dalam talian; penjenayah siber kini mengeksploitasinya untuk penipuan terancang. Mereka boleh mengumpul data yang tersedia secara umum di media sosial untuk membina "bank suara" pekerja dalam syarikat, kemudian menggunakan AI untuk menyamar sebagai pemimpin atau rakan sekerja bagi membuat panggilan meminta pemindahan wang.
Kerosakan daripada insiden ini adalah ketara. Setiap penipuan deepfake boleh menyebabkan perniagaan kerugian ratusan ribu dolar. Amat membimbangkan, senario ini sering mengeksploitasi rasa terdesak mangsa – seperti menyamar sebagai orang tersayang untuk meminta bantuan – menyebabkan mereka mengurangkan tahap kewaspadaan mereka dalam masa yang sangat singkat.
'Melawan api dengan api' menggunakan AI
Untuk mengatasi masalah ini, banyak syarikat baharu keselamatan memilih pendekatan sebaliknya: menggunakan AI itu sendiri untuk mengesan deepfake.
Satu pendekatan biasa ialah model "guru-peranti" dalam pembelajaran mesin. Sistem ini dilatih menggunakan sejumlah besar data sebenar dan palsu untuk mempelajari cara mengenal pasti kesan teknikal yang tidak dapat dilihat oleh manusia dengan mata kasar.
Pendekatan ini mewujudkan gelung yang berterusan: apabila deepfake menjadi lebih canggih, sistem pengesanan mesti sentiasa dinaik taraf untuk bersaing. Oleh itu, perlumbaan ini seolah-olah tidak berkesudahan.
Walau bagaimanapun, cabarannya terletak pada hakikat bahawa kos mencipta kandungan palsu menjadi semakin murah hasil daripada penggunaan model AI yang meluas, manakala pengesanan dan pertahanan memerlukan lebih banyak sumber.
Satu pendekatan baharu adalah untuk mewujudkan piawaian bagi mengesahkan asal usul kandungan, membantu pengguna mengetahui dari mana data tersebut datang dan sama ada ia telah disunting. Walau bagaimanapun, penyelesaian ini masih menghadapi risiko pemalsuan jika tiada sistem pengesahan yang ketat.
Dalam jangka masa panjang, alat pengesanan deepfake diramalkan akan menjadi lapisan perlindungan lalai, yang disepadukan terus ke dalam pelayar, platform digital atau infrastruktur internet – sama seperti peranan perisian antivirus hari ini.
Sumber: https://tuoitre.vn/deepfake-lan-rong-cuoc-dua-ai-lay-doc-tri-doc-nong-len-2026042808084971.htm
Komen (0)