Media sosial, AI, dan algoritma amplifikasi: Kombinasi “atom” yang mengubah dunia

(NB&CL) Hanya sebuah insiden kecil, tetapi dengan kombinasi "atom" jejaring sosial, AI, dan algoritma amplifikasi, juga dapat menciptakan gelombang ekstremisme dalam skala nasional dan bahkan global. Dunia virtual secara serius memengaruhi kehidupan nyata dan semakin tak terkendali.

Algoritma Penghasutan Kebencian

Algoritma media sosial tidak lagi hanya menyajikan konten yang menghibur, tetapi juga memperkuat ujaran kebencian dan ideologi ekstremis. Sekretaris Jenderal PBB Antonio Guterres telah memperingatkan bahwa beberapa platform media sosial telah menjadi "tempat pembuangan sampah beracun" yang penuh dengan ujaran kebencian dan disinformasi, yang memicu penyebaran ekstremisme.

Studi dunia nyata menunjukkan bahwa hanya dalam beberapa hari, algoritma rekomendasi dapat memperburuk masalah. Misalnya, sebuah studi di Inggris menemukan bahwa algoritma TikTok meningkatkan rekomendasi konten misoginis sebanyak empat kali lipat, dari 13% menjadi 56% video hanya dalam lima hari.

Para peneliti menjelaskan bahwa algoritma tersebut secara otomatis menargetkan kerentanan pengguna (seperti perasaan kesepian, kehilangan kendali, kebencian), mengubah konten ekstremis menjadi "hiburan" yang menarik untuk menarik pemirsa.

Kini, di media sosial, bahkan informasi kecil atau rumor tak berdasar pun dapat dengan mudah menjadi pemicu kekerasan. Contoh tipikal adalah kerusuhan di Inggris pada tahun 2024. Setelah serangan di Southport, rumor palsu tentang tersangka—bahwa ia seorang Muslim atau pengungsi—menyebar dengan cepat di media sosial, disertai bahasa anti-Muslim dan anti-imigran. Menurut laporan tahun 2024 oleh Kantor Akuntansi Umum AS (GAO), hampir sepertiga pengguna internet telah terpapar ujaran kebencian daring.
Secara khusus, serangkaian protes serius baru-baru ini, kerusuhan oleh Gen Z atau pelajar di berbagai negara, dari Asia, Afrika hingga Amerika Latin, semuanya diprakarsai dan dihasut di platform media sosial, dengan skenario yang hampir sama: mengeksploitasi suatu isu dan kemudian menghasut seluruh masyarakat.

Perangkat lunak AI dan algoritma amplifikasi memanipulasi dunia virtual dan nyata. Ilustrasi: Nafets

Sebagian besar dunia tenggelam dalam "ilusi"

Situasi semakin tak terkendali dengan ledakan AI, yang memungkinkan hampir semua orang menciptakan "pabrik berita palsu" dalam skala dan kecepatan yang belum pernah terjadi sebelumnya. Model AI seperti GPT, Claude, atau LLaMA dapat secara otomatis menghasilkan serangkaian artikel, gambar, dan video yang terdistorsi dalam sekejap. Sistem bot AI dapat secara bersamaan membuat dan membagikan ribuan unggahan atau komentar, mengubah berita palsu dan berita negatif menjadi "tren" daring.

Sebuah studi oleh Universitas RIT di AS menyatakan: “AI telah membuatnya sangat cepat untuk memperkuat semua jenis misinformasi… Bot AI dapat menyebarkan konten ini melalui internet, karena mereka tidak perlu bergantung pada manusia untuk membuatnya.”

Kini, hanya dengan beberapa lusin dolar sebulan untuk sebuah perangkat AI, seseorang dapat membuat ribuan gambar dan video palsu, mulai dari suara, foto, hingga video. Tingkat kecanggihan dan prevalensinya begitu tinggi sehingga kini kita semua berpikir: Apakah yang kita lihat di media sosial dihasilkan oleh AI?

Namun ironisnya, sebagian besar dunia tenggelam dalam dunia "virtual" tersebut selama berjam-jam, setiap hari – bahkan menikmatinya seperti "kecanduan". Menurut laporan Digital 2025, sekitar 5,2 hingga 5,6 miliar orang menggunakan jejaring sosial, setara dengan 64% populasi global. Rata-rata waktu setiap orang menggunakan jejaring sosial berfluktuasi sekitar 2 jam 20 menit/hari.

Perlunya mengendalikan bom "atom"

Dengan berita palsu dan disinformasi yang diproduksi dengan kecepatan yang semakin murah dan berbahaya, kendali atas konten di internet hampir terlepas dari kendali manusia. Pakar teknologi Lukasz Olejnik dari King's College London (Inggris) berkomentar: "Setiap bulan, pabrik [berita palsu] semakin murah, tajam, dan sulit dideteksi."

Sementara itu, sebuah studi RAND pada tahun 2024 menunjukkan bahwa prospek AI yang mampu “mengisi internet” dengan akun-akun media sosial palsu sudah jelas dan hampir tak terelakkan tanpa ada perubahan apa pun.

Teknologi nuklir pernah menjadi penemuan besar umat manusia, begitu pula media sosial. Namun, jika dibiarkan begitu saja, hal itu dapat menyebabkan bencana. Demikian pula, jika media sosial, AI, dan algoritma amplifikasi dibiarkan merajalela, mereka dapat memicu "bom atom" di dunia maya – dan cukup kuat untuk menghancurkan dunia nyata.

Sumber: https://congluan.vn/mang-xa-hoi-ai-va-thuat-toan-khuech-dai-su-ket-hop-nguyen-tu-dang-lam-dao-lon-the-gioi-10317608.html