Membersihkan sampah AI di internet.

VTV.vn - "Sampah AI" menghadirkan tantangan baru bagi anak-anak karena konten yang murah, berulang, dan adiktif diperkuat oleh algoritma di platform digital.

Rambu peringatan bergambar robot dan tulisan "AI Slop". (Foto: Reuters)

Ketika banyak orang tua mengeluh bahwa anak-anak mereka dapat duduk di depan layar komputer selama berjam-jam tetapi kesulitan berkonsentrasi pada pelajaran mereka, mereka melihat lebih dari sekadar perubahan kebiasaan hiburan. Di balik video pendek dan cepat, warna-warna cerah, dan suara yang terus-menerus merangsang, terdapat seluruh ekosistem digital yang dirancang untuk membuat pemirsa tetap terlibat selama mungkin. Organisasi medis dan kesehatan masyarakat kini memandang masalah ini dengan cara yang sama: ceritanya bukan lagi tentang "berapa jam di depan layar," tetapi tentang kualitas konten, konteks penggunaan, dan mekanisme retensi platform.

Dalam konteks ini, istilah baru semakin sering muncul dalam debat internasional: "AI slop," yang secara longgar dapat diterjemahkan sebagai "sampah AI." Ini merujuk pada konten yang diproduksi secara massal menggunakan alat kecerdasan buatan, yang berbiaya rendah, berkecepatan tinggi, dan memprioritaskan kuantitas, keterlibatan pemirsa, dan pendapatan iklan daripada nilai edukatif atau konsistensi. Yang penting, debat saat ini tidak bertujuan untuk menyangkal AI sebagai alat kreatif, tetapi lebih berfokus pada isu yang sangat spesifik: Ketika konten yang murah, berulang, dan dangkal diperkuat oleh algoritma, siapa yang akan bertanggung jawab atas dampaknya pada kelompok pengguna yang paling rentan?

Masalah ini semakin intensif pada April 2026, ketika lebih dari 200 organisasi dan pakar mengirimkan surat yang mendesak Google dan YouTube untuk mengambil tindakan yang lebih tegas guna melindungi anak-anak. Tuntutan tersebut cukup jelas: beri label pada semua konten AI, larang konten AI dari YouTube Kids, blokir rekomendasi untuk mereka yang berusia di bawah 18 tahun, tambahkan tombol kontrol orang tua untuk menonaktifkan konten AI, dan hentikan investasi dalam produksi video AI untuk anak-anak. Dalam surat terbuka tersebut, Fairplay berpendapat bahwa saluran-saluran berbasis AI teratas yang menargetkan anak-anak menghasilkan pendapatan lebih dari $4,25 juta per tahun. Di balik angka-angka tersebut terdapat logika bisnis era platform yang sudah familiar: apa yang murah, cepat diproduksi, dan membuat pemirsa tetap terlibat dalam waktu lama akan mudah diperkuat.

Logo Google ditampilkan di layar ponsel, dengan logo YouTube di belakangnya pada layar komputer di Ankara, Turki, pada 2 Juli 2025. (Foto AFP).jpg

Yang mengkhawatirkan orang tua bukan hanya kuantitas kontennya. Masalahnya adalah konten tersebut sulit dihindari. Fairplay mengutip riset pers internasional yang menunjukkan bahwa setelah menonton program prasekolah populer seperti Cocomelon, sekitar 40% dari video yang disarankan YouTube berikutnya mengandung unsur AI. Studi lain yang dikutip oleh pers menunjukkan bahwa sekitar 21% dari Shorts yang disarankan ke akun pengguna baru adalah konten buatan AI yang tidak bermutu; 278 saluran yang sepenuhnya dihasilkan oleh AI telah mengumpulkan sekitar 63 miliar penayangan, 221 juta pelanggan, dan perkiraan pendapatan tahunan sebesar $117 juta. Dari perspektif bisnis konten, ini bukan lagi "ceruk pasar" tetapi telah menjadi jalur produksi yang benar-benar menguntungkan.

Namun mengapa para ahli memberikan perhatian khusus pada anak-anak? Pertama, bukti yang ada menunjukkan bahwa sebagian besar video yang ditonton anak-anak kecil di platform terbuka belum tentu merupakan konten pendidikan berkualitas. Common Sense Media mencatat bahwa hanya sekitar 5% video yang ditonton oleh anak-anak berusia 8 tahun ke bawah memiliki nilai pendidikan tinggi, sementara 75% memiliki sedikit atau tidak ada nilai pendidikan sama sekali. Laporan tersebut juga menunjukkan bahwa 30% video mengandung setidaknya kekerasan fisik ringan, dan 20% mengandung kekerasan interpersonal seperti ejekan, perundungan, atau perilaku manipulatif. Ini berarti bahwa bahkan sebelum "gelombang AI," lingkungan video untuk anak-anak di platform terbuka sudah perlu dipantau lebih ketat. AI hanya membuat produksi jenis konten ini lebih murah, lebih cepat, dan lebih luas.

Aplikasi YouTube Kids ditampilkan di layar ponsel di Krakow, Polandia, pada 7 Juni 2025. (Foto: NurPhoto, AFP).jpg

Saat ini, respons YouTube belum sepenuhnya meyakinkan para pengamat. Platform tersebut mewajibkan pengungkapan untuk konten yang dikompilasi atau diedit yang tampak autentik, tetapi banyak video animasi untuk anak-anak berada di luar persyaratan tersebut. WIRED telah menunjukkan bahwa video animasi yang ditujukan untuk anak-anak kecil dapat lolos dari aturan pelabelan deepfake karena dianggap "tidak nyata," meskipun justru jenis konten inilah yang sangat memengaruhi pengalaman anak-anak. Inilah juga mengapa para pendukung berpendapat bahwa pelabelan saja tidak cukup, terutama ketika anak-anak kecil bahkan mungkin tidak tahu cara membaca untuk memahami deskripsinya. Namun, perlu dicatat bahwa YouTube telah menyatakan secara publik bahwa mengatasi masalah AI yang tidak akurat adalah prioritas untuk tahun 2026, dan juga menambahkan alat pemantauan untuk keluarga.

Jika dilihat dari perspektif yang lebih luas, "pembersihan AI" bukan hanya untuk anak-anak. Dunia daring mengungkapkan realitas yang berbeda: bahaya digital benar-benar dapat berubah menjadi bahaya nyata. WHO/Eropa melaporkan bahwa sekitar seperenam remaja pernah mengalami perundungan daring; UNICEF mencatat bahwa lebih dari sepertiga anak muda di 30 negara mengatakan mereka telah menjadi korban perundungan siber. Untuk perempuan dan anak perempuan, UN Women melaporkan bahwa perundungan siber terjadi antara 16% dan 58%, sementara studi internasional menemukan bahwa 58% anak perempuan dan wanita muda mengalami pelecehan daring. Karena AI membuat pembuatan gambar, video, dan konten fitnah palsu menjadi lebih murah dan cepat, risiko ini semakin meningkat.

Seorang remaja menonton video di ponselnya di Prancis, 3 Januari 2026. (Foto: Reuters).JPG

Jadi, bagaimana seharusnya "pembersihan AI" dipahami? Jika kita memahaminya hanya sebagai penghapusan beberapa video yang menyinggung, kita hanya mengatasi gejalanya. Pada kenyataannya, kita perlu membersihkan seluruh "alur" yang mengirimkan konten sampah kepada pengguna: aturan pelabelan yang lebih jelas; desain default yang lebih aman untuk anak-anak; pengurangan ketergantungan pada algoritma yang mengoptimalkan waktu menonton; data terbuka untuk penelitian independen; dan memaksa platform untuk merespons lebih cepat terhadap konten berbahaya. Undang-Undang Layanan Digital Eropa mengikuti arah ini dengan mewajibkan platform utama untuk mengurangi risiko bagi anak di bawah umur, memungkinkan pengguna untuk memilih feed yang tidak dipersonalisasi, dan melarang iklan yang ditargetkan kepada anak-anak. Di sisi keluarga, YouTube juga telah menambahkan batasan waktu untuk menggulir Shorts, pengingat istirahat, dan pengingat waktu tidur untuk akun yang diawasi; untuk akun anak-anak kecil, orang tua dapat menggunakan pemilihan konten atau penelusuran video manual.

Bagi Vietnam, isu ini perlu didekati dengan perspektif yang lebih hati-hati daripada panik. Tidak semua konten yang didukung AI adalah "sampah". Tetapi ketika platform memprioritaskan kepuasan instan daripada nilai jangka panjang, ketika label peringatan tidak cukup jelas bagi anak-anak, dan ketika orang tua terus-menerus mengejar setiap video, masalahnya bukan lagi hanya soal keterampilan individu. Ini adalah masalah standar platform, pendidikan keselamatan digital di sekolah, tanggung jawab perusahaan teknologi, dan bahkan kerangka peraturan publik.

Dalam lingkungan daring yang semakin jenuh dengan konten yang teragregasi, pembersihan AI bukan hanya sekadar membersihkan beberapa produk buruk; yang lebih mendasar, ini adalah upaya untuk membersihkan mekanisme yang mengubah perhatian orang, terutama anak-anak, menjadi sumber daya yang dieksploitasi secara berlebihan.

Sumber: https://vtv.vn/don-rac-ai-tren-moi-truong-mang-100260525192558675.htm