Media sosial, AI dan algoritma amplifikasi: Gabungan "atom" yang menjadikan dunia terbalik

(NB&CL) Hanya insiden kecil, tetapi dengan gabungan "atom" rangkaian sosial, AI dan algoritma amplifikasi, juga boleh mencipta gelombang ekstremisme pada skala nasional malah global. Dunia maya sangat menjejaskan kehidupan sebenar dan semakin tidak terkawal.

Algoritma Hasutan Kebencian

Algoritma media sosial bukan lagi sekadar mencadangkan kandungan yang menghiburkan, tetapi juga menguatkan ucapan benci dan ideologi ekstremis. Setiausaha Agung PBB Antonio Guterres telah memberi amaran bahawa beberapa platform media sosial telah menjadi "tempat pembuangan toksik" yang dipenuhi dengan ucapan kebencian dan salah maklumat, yang mencetuskan penyebaran ekstremisme.

Kajian dunia sebenar menunjukkan bahawa dalam beberapa hari sahaja, algoritma pengesyoran boleh memburukkan lagi masalah. Sebagai contoh, kajian di UK mendapati bahawa algoritma TikTok menggandakan syor kandungan misoginis sebanyak empat kali ganda daripada 13% kepada 56% video dalam masa lima hari sahaja.

Para penyelidik menjelaskan bahawa algoritma secara automatik menyasarkan kelemahan pengguna (seperti perasaan kesunyian, kehilangan kawalan, kebencian), menukar kandungan pelampau kepada "hiburan" yang menarik untuk menarik penonton.

Kini, di media sosial, walaupun maklumat kecil atau khabar angin tidak berasas dengan mudah boleh menjadi pencetus keganasan. Contoh biasa ialah rusuhan di UK pada 2024. Selepas serangan di Southport, khabar angin palsu mengenai suspek - bahawa dia beragama Islam atau pelarian - tersebar dengan cepat di media sosial, bersama-sama dengan bahasa anti-Muslim dan anti-pendatang. Menurut laporan 2024 oleh Pejabat Perakaunan Am (GAO) AS, hampir satu pertiga daripada pengguna internet telah terdedah kepada ucapan benci dalam talian.
Khususnya, beberapa siri protes serius baru-baru ini, rusuhan oleh Gen Z atau pelajar di negara yang berbeza, dari Asia, Afrika hingga Amerika Latin, semuanya dimulakan dan dihasut di platform media sosial, dengan senario yang hampir sama: mengeksploitasi sesuatu isu dan kemudian menghasut seluruh masyarakat.

Perisian AI dan algoritma amplifikasi memanipulasi kedua-dua dunia maya dan sebenar. Ilustrasi: Nafets

Kebanyakan dunia tenggelam dalam "ilusi"

Keadaan semakin tidak terkawal dengan letupan AI, yang membolehkan hampir semua orang mencipta "kilang berita palsu" pada skala dan kelajuan yang tidak pernah berlaku sebelum ini. Model AI seperti GPT, Claude atau LLaMA boleh menjana satu siri artikel, imej dan video yang herot secara automatik dalam sekelip mata. Sistem bot AI boleh mencipta dan berkongsi beribu-ribu siaran atau ulasan serentak, menukar berita palsu dan berita toksik kepada "trend" dalam talian.

Kajian oleh Universiti RIT di AS menegaskan: "AI telah menjadikannya sangat pantas untuk menguatkan semua jenis maklumat salah... Bot AI boleh menyebarkan kandungan ini ke seluruh internet, kerana mereka tidak perlu bergantung kepada manusia untuk menciptanya."

Hari ini, dengan hanya beberapa dozen dolar sebulan untuk alat AI, seseorang individu boleh mencipta beribu-ribu imej dan video palsu tentang apa sahaja daripada suara, foto hingga video. Tahap kecanggihan dan kelaziman sangat hebat sehingga hari ini kita semua mempunyai pemikiran di belakang fikiran kita: Adakah apa yang kita lihat di media sosial dijana AI?

Tetapi ironinya ialah kebanyakan dunia tenggelam dalam dunia "maya" itu selama berjam-jam, setiap hari - malah menikmatinya seperti "ketagihan". Menurut laporan Digital 2025, kira-kira 5.2 hingga 5.6 bilion orang menggunakan rangkaian sosial, bersamaan dengan 64% daripada populasi global. Dan purata masa setiap orang menggunakan rangkaian sosial berubah-ubah sekitar 2 jam dan 20 minit/hari.

Perlu mengawal bom "atom".

Dengan berita palsu dan maklumat salah dihasilkan pada kadar yang semakin murah dan berbahaya, kawalan kandungan di internet hampir terlepas dari kawalan manusia. Pakar teknologi Lukasz Olejnik di King's College London (UK) mengulas: "Setiap bulan, kilang [berita palsu] semakin murah, lebih tajam dan sukar untuk dikesan."

Sementara itu, kajian RAND pada 2024 menunjukkan bahawa prospek AI dapat "mengisi internet" dengan akaun media sosial palsu adalah jelas dan hampir tidak dapat dielakkan tanpa sedikit perubahan.

Teknologi nuklear pernah menjadi ciptaan manusia yang hebat, seperti media sosial. Namun, jika dibiarkan ia boleh mendatangkan bencana. Begitu juga, jika media sosial, AI dan algoritma amplifikasi dibiarkan berjalan liar, ia boleh mencetuskan "bom atom" di alam siber - dan cukup kuat untuk memusnahkan dunia sebenar.

Sumber: https://congluan.vn/mang-xa-hoi-ai-va-thuat-toan-khuech-dai-su-ket-hop-nguyen-tu-dang-lam-dao-lon-the-gioi-10317608.html