Cerita audio ofensif yang dibuat dengan AI: Konten spam menarik jutaan penayangan

(Dan Tri) - Semakin mudah membuat video dengan konten dan gambar menggunakan AI, semakin banyak pula "sampah internet" yang dihasilkan.

Cerita audio, bentuk "membaca" buku yang mudah, menjadi lahan subur bagi saluran YouTube yang memanfaatkan teknologi AI untuk menghasilkan konten sensasional dan penuh kekerasan demi menarik perhatian, yang mengakibatkan akibat yang mengkhawatirkan.

Cerita audio bukanlah konsep baru di YouTube, menarik banyak pengguna sibuk yang ingin mengakses konten tanpa harus menghabiskan waktu membaca.

Dengan dukungan suara manusia nyata atau AI, karya sastra, roman, cerita detektif, cerita horor... diubah menjadi video dengan durasi yang bervariasi.

Namun, perkembangan pesat teknologi AI telah disalahgunakan oleh banyak kanal YouTube. Mereka membuat serangkaian video naratif dengan konten sensasional dan kekerasan, yang memancing rasa ingin tahu penonton untuk menarik interaksi dan penayangan.

Kisah audio yang menjijikkan dan menyeramkan menarik jutaan penonton

Membuat konten dan gambar kini semakin mudah berkat beragamnya perangkat lunak dan situs web AI. Hanya dengan beberapa perintah sederhana, pengguna dapat membuat konten dan gambar sesuai kebutuhan.

Memanfaatkan hal ini, banyak saluran YouTube telah mengunggah cerita audio yang konten, gambar, dan suaranya semuanya merupakan produk AI.

Saluran komentar yang disematkan menegaskan sifat fiktif dari konten kekerasan tersebut, tetapi tidak jelas mengapa menambahkan judul “menyampaikan pesan positif” (Tangkapan Layar).

Pencarian frasa "kisah audio wanita kaya" akan menampilkan serangkaian video dengan konten dan gambar serupa, semuanya dihasilkan oleh AI.

Meskipun durasinya berbeda-beda, semua video ini memiliki kesamaan, yakni plot sensasional dan penuh kekerasan yang dibuat dan dibaca oleh AI.

Dengan konten yang menarik dan suara detektif, video-video ini dengan cepat menarik ribuan, bahkan jutaan penayangan dan interaksi.

Setiap hari, saluran ini mengunggah 2-3 video, yang menarik banyak pemirsa dan pelanggan.

Konten virtual, dampak nyata

Perlu disebutkan bahwa banyak cerita tidak masuk akal, meskipun saluran itu sendiri mengakui bahwa cerita tersebut "tidak benar" dan "semua rinciannya fiktif", tetap menarik perhatian pemirsa.

Faktanya, banyak orang, terutama orang lanjut usia atau mereka yang kurang memahami teknologi, memercayai bahwa cerita-cerita ini benar adanya.

Pengguna menyatakan kekhawatiran atas video cerita audio buatan AI di Threads yang menyebabkan kesalahpahaman dengan orang tua dan lansia (Foto: Tangkapan Layar).

Konten, terutama gambar yang dihasilkan AI, semakin realistis, sehingga sulit membedakan antara yang asli dan palsu. Memanfaatkan tren dan berita terkini, banyak kanal YouTube juga membuat video "mengikuti" peristiwa untuk menarik penonton.

Meskipun AI membawa banyak manfaat, maraknya video virtual dengan konten kekerasan dan ofensif meninggalkan konsekuensi serius.

Video cerita audio ini masih menarik ribuan penayangan, dan semakin mengejutkan dan penuh kekerasan kontennya, semakin besar pula interaksinya.

Meskipun banyak kanal mengklaim konten mereka fiktif dan "menolak tanggung jawab", bukan berarti hal itu tidak memengaruhi persepsi dan bahkan perilaku penonton. Penyangkalan hanyalah cara bagi kanal untuk "membersihkan diri" dari sampah yang mereka buat.

Pertanyaannya adalah apa yang akan terjadi jika pemirsa tidak dapat membedakan antara berita palsu dan berita nyata, atau bagaimana dampaknya terhadap anak-anak jika mereka secara tidak sengaja menonton konten yang banyak mengandung unsur kekerasan?

Dr. Nguyen Van Son, dosen Fakultas Teknologi Informasi, Universitas Teknologi (Universitas Nasional Vietnam, Hanoi ), menekankan: "AI dapat memberikan banyak kontribusi praktis bagi masyarakat, tetapi jika dieksploitasi dan digunakan untuk tujuan yang salah, dapat menimbulkan banyak konsekuensi serius."

Menurut Dr. Nguyen Van Son, pengguna perlu meningkatkan kewaspadaan dan tanggung jawab mereka saat mendekati dan menerapkan AI (Foto: Karakter disediakan).

Dr. Son mengajak para pengguna, khususnya kaum muda, untuk meningkatkan kewaspadaan dan tanggung jawab saat mendekati dan menerapkan AI, dengan tujuan menciptakan produk bermutu dan beradab, bukan malah menyebarkan produk sampah dan menyinggung yang merajalela di dunia maya.

Kebiasaan mendengarkan cerita audio tidaklah buruk, tetapi secara tidak sengaja membantu orang memanfaatkan kebiasaan ini dan kemajuan teknologi untuk menciptakan produk yang penuh kekerasan dan menyinggung, mencemari lingkungan daring.

Pengguna perlu memverifikasi informasi dan melengkapi diri dengan "filter" untuk menghindari disesatkan oleh informasi palsu yang menyebabkan kebingungan publik.

Sumber: https://dantri.com.vn/cong-nghe/truyen-audio-phan-cam-tao-bang-ai-noi-dung-rac-thu-hut-trieu-view-20250723151755041.htm