Alat AI baharu Australia melawan imej palsu yang berbahaya

Menurut koresponden VNA di Sydney, Universiti Monash dan Polis Persekutuan Australia (AFP) bekerjasama untuk membangunkan alat Kecerdasan Buatan (AI) baharu yang inovatif untuk memperlahankan dan menghalang penjenayah daripada mencipta imej palsu dan bahan penderaan kanak-kanak yang berbahaya menggunakan AI.

Alat itu, yang dipanggil Silverer, adalah produk Makmal AI untuk Penguatkuasaan Undang-undang dan Keselamatan Komuniti (AiLECS), kerjasama penyelidikan strategik antara AFP dan Universiti Monash yang menggunakan AI untuk penguatkuasaan undang-undang dan cabaran keselamatan yang kompleks. Pada masa ini dalam fasa perintisnya, alat itu sedang dibangunkan di bawah kepimpinan pelajar PhD Universiti Monash Elizabeth Perry.

Menurut Universiti Monash, projek itu menggunakan teknik yang dipanggil "Keracunan Data" sebagai teknik teras dalam alat baharu ini. Teknik ini melibatkan pengubahan data sumber dalam talian secara halus, menjadikannya lebih sukar bagi model AI dan Pembelajaran Mesin (ML) untuk mencipta, memanipulasi dan menyalahgunakan imej atau video .

Memandangkan alatan AI memerlukan sejumlah besar data sumber, keracunan data menyebabkan model menghasilkan hasil yang tidak tepat, condong atau rosak, menjadikannya lebih mudah untuk mengesan imej atau video palsu yang dicipta oleh penjenayah.

Perry, seorang pelajar PhD, menjelaskan bahawa pengguna boleh menggunakan Silverer untuk mengedit imej sebelum memuat naiknya ke media sosial atau internet. Ini akan menukar piksel untuk menipu model AI, menjadikan outputnya diherotkan, diliputi dalam "herotan," atau tidak dapat dikenali sepenuhnya.

Profesor Madya Campbell Wilson - pengarah bersama AiLECS dan pakar forensik digital - berkata penciptaan imej palsu dan berniat jahat menggunakan teknologi sumber terbuka menjadi masalah yang lebih serius kerana kemudahan penggunaannya.

AFP telah mendokumenkan peningkatan dalam bahan penderaan kanak-kanak yang dijana AI, kerana penjenayah mengeksploitasi teknologi untuk menghasilkan dan berkongsi kuantiti besar pornografi palsu dalam talian.

Universiti Monash berkata matlamat keseluruhan projek Silverer adalah untuk membangunkan teknologi yang mudah digunakan untuk warga Australia yang ingin melindungi data peribadi mereka di media sosial. Versi perintis alat sedang dipertimbangkan untuk kegunaan dalaman dalam AFP./.

(TTXVN/Vietnam+)

Sumber: https://www.vietnamplus.vn/cong-cu-ai-moi-cua-australia-chong-hinh-anh-deepfake-doc-hai-post1076017.vnp