Deepfake politik menduduki tempat teratas dalam senarai pengguna AI yang berniat jahat.

Kajian oleh Google DeepMind menunjukkan bahawa mencipta imej, video dan audio manusia palsu hampir dua kali ganda lebih biasa daripada mencipta maklumat salah menggunakan alatan seperti chatbot AI.

Analisis mendedahkan bahawa matlamat paling biasa pelaku menyalahgunakan AI sintetik adalah untuk membentuk atau mempengaruhi pendapat umum. Ini menyumbang 27% daripada penggunaan, menimbulkan kebimbangan tentang bagaimana deepfake boleh menjejaskan pilihan raya di seluruh dunia tahun ini.

Satu karya seni palsu yang menggambarkan Perdana Menteri Britain Rishi Sunak muncul di TikTok dan Instagram menjelang pilihan raya umum. Foto: AFP

Video palsu Perdana Menteri Britain Rishi Sunak, serta pemimpin global lain, telah muncul di TikTok, X dan Instagram dalam beberapa bulan kebelakangan ini. Pengundi British akan keluar mengundi minggu depan dalam pilihan raya umum.

Terdapat kebimbangan bahawa, meskipun terdapat usaha platform media sosial untuk melabel atau mengalih keluar kandungan sedemikian, khalayak mungkin tidak mengenalinya sebagai palsu dan penyebarannya boleh mempengaruhi pengundi.

Ardi Janjeva, seorang penyelidik bersekutu di Institut Alan Turing, menyifatkan penemuan kertas kerja itu "sangat relevan," menunjukkan bahawa maklumat awam yang dijana AI boleh "memesongkan pemahaman umum kita tentang realiti sosio -politik ."

"Walaupun kita tidak pasti tentang kesan deepfake terhadap tingkah laku pengundian, penyelewengan ini mungkin sukar dikesan dalam jangka pendek dan menimbulkan risiko jangka panjang kepada demokrasi," tambah Janjeva.

"Terdapat banyak kebimbangan mengenai serangan siber yang agak canggih yang boleh dihasilkan oleh alat ini," kata penyelidik Nahema Marchal, penulis utama kajian di Google DeepMind.

Penyelidik di Google DeepMind dan Jigsaw menganalisis kira-kira 200 kejadian penyalahgunaan AI dari Januari 2023 hingga Mac 2024, yang diperoleh daripada platform media sosial X dan Reddit, serta blog dalam talian dan laporan media tentang penyalahgunaan.

Motivasi kedua paling biasa di sebalik penyalahgunaan ini adalah untuk mengaut keuntungan, termasuk mencipta imej bogel orang sebenar atau menggunakan AI untuk menjana pelbagai jenis kandungan, seperti artikel berita palsu. Kebanyakan situasi menggunakan alat yang mudah diakses yang "memerlukan kepakaran teknikal yang minimum", yang bermaksud ramai pelaku jahat boleh menyalahgunakan AI secara kreatif.

Ngoc Anh (mengikut FT)

Sumber: https://www.congluan.vn/nghien-cuu-deepfake-chinh-tri-dung-dau-trong-danh-list-su-dung-ai-doc-hai-post300851.html