Ketika AI Memutuskan Apa yang Anda Katakan Secara Online

Dalam dunia digital di mana setiap orang mempunyai suara, apakah algoritma penyaringan komentar membantu melindungi komunitas, atau apakah mereka secara tidak sengaja meredam suara pengguna sendiri?

AI memindai dan menghapus komentar di media sosial

Ketika orang meninggalkan komentar di video YouTube, postingan Facebook, atau artikel daring, mereka tidak tahu apakah komentar tersebut akan sampai ke orang lain. Bukan karena salah eja atau ilegal, melainkan karena diblokir oleh algoritma penyaringan otomatis.

Platform teknologi masa kini menggunakan sistem penyaringan komentar untuk menyaring ujaran kebencian, pornografi, kekerasan, dan ujaran yang memecah belah. Tujuannya adalah untuk "menjaga keamanan komunitas", tetapi apakah alat-alat ini begitu steril sehingga tidak sensitif?

Ketika AI menjadi penjaga ucapan

Berbeda dengan masa-masa awal internet, ketika komentar "mentah" dibiarkan mengalir bebas, sebagian besar platform besar kini mendelegasikan tanggung jawab penyaringan konten kepada kecerdasan buatan. Berkat pembelajaran mesin, sistem dapat memindai jutaan baris teks setiap hari, mengevaluasi bahasa, nada, dan bahkan "konteks" untuk memutuskan apakah akan menyimpan atau menghapusnya.

Namun, sistem ini tidak selalu akurat.

Ibu Ngoc Vy (HCMC) berbagi: "Komentar saya tentang suatu produk disembunyikan tanpa alasan. Tidak ada umpatan, tidak ada spam, hanya komentar yang hilang setelah beberapa detik."

Banyak konten dihapus hanya karena menggunakan kata-kata sensitif dalam konteks yang sepenuhnya normal. Frasa seperti "kemiskinan", "kelaparan", "kebijakan", atau "sistem" terkadang disalahartikan sebagai negatif jika mesin tidak dapat "membaca" makna kalimat tersebut.

Saring atau hilangkan kritik?

Menurut peringatan dari AlgorithmWatch (Jerman), sistem penyensoran otomatis dapat secara tidak sengaja menghilangkan suara-suara yang berbeda pendapat, terutama dari kelompok yang kurang beruntung atau minoritas karena sistem ini belajar dari perilaku mayoritas, yang tidak cukup beragam dalam hal budaya dan sudut pandang.

Di Vietnam, kontrol ketat konten oleh platform media sosial semakin umum, terutama dengan situs berita yang sangat interaktif. Komentar tentang isu-isu terkini dan sosial seringkali dibatasi untuk ditampilkan, atau harus "disetujui terlebih dahulu", yang menyebabkan banyak orang bertanya: Apakah masih ada kebebasan berpendapat di dunia maya?

Yang mengkhawatirkan adalah pengguna jarang tahu mengapa komentar disembunyikan atau dihapus. Tidak ada notifikasi, tidak ada mekanisme umpan balik yang transparan. Semuanya terjadi tanpa suara, dan di dunia yang dijalankan oleh algoritma, diam bisa menjadi bentuk penyensoran yang paling halus.

Jaga internet tetap bersih, tapi jangan tutupi percakapan

Dunia maya yang bersih bukan berarti steril. Masyarakat adalah tempat di mana berbagai pendapat diungkapkan, konstruktif, kritis, dan diperdebatkan. Kita membutuhkan algoritma untuk menyaring ujaran yang beracun, tetapi kita juga perlu melindungi hak untuk berbeda pendapat, hak untuk bertanya, dan hak untuk menimbulkan ketidaknyamanan.

Ketika setiap komentar harus “dimoderasi,” kita harus bertanya: Apakah teknologi melindungi komunitas atau menyaring apa yang boleh didengar oleh komunitas?

Teknologi tidak dapat menggantikan manusia dalam membuat keputusan yang berharga. Dan di era AI, transparansi dan hak untuk mendapatkan umpan balik adalah "algoritma" yang paling adil untuk keseluruhan sistem.

Teknologi seharusnya membantu orang berbicara, bukan memutuskan apa yang akan mereka katakan.

DUA PIKIRAN

Sumber: https://tuoitre.vn/khi-ai-quyet-dinh-ban-duoc-noi-gi-tren-mang-20250701231035288.htm