Yapay zeka ile oluşturulan rahatsız edici sesli hikaye: Spam içerik milyonlarca kez izlendi

(Dan Tri) - Yapay zeka kullanarak içerik ve görsellerle video oluşturmak ne kadar kolaylaşırsa, o kadar çok "internet çöpü" oluşuyor.

Kitap "okuma"nın pratik bir biçimi olan sesli hikayeler, yapay zeka teknolojisinden yararlanarak sansasyonel, şiddet içerikli içerikler üreten ve bu sayede izlenme sayısını artıran YouTube kanalları için verimli bir zemin haline geliyor ve bu durum endişe verici sonuçlara yol açıyor.

YouTube'da sesli hikayeler yeni bir kavram değil ve okumaya zaman harcamadan içeriğe erişmek isteyen çok sayıda meşgul kullanıcıyı cezbediyor.

Gerçek insan seslerinin veya yapay zekanın desteğiyle edebi eserler, aşk hikayeleri, polisiye hikayeleri, korku hikayeleri... çeşitli uzunluklarda videolara dönüştürülüyor.

Ancak yapay zeka teknolojisinin hızla gelişmesi, birçok YouTube kanalı tarafından suistimal edildi. İzleyicilerin merakını cezbederek etkileşim ve izlenme elde etmek için sansasyonel ve şiddet içerikli bir dizi hikaye videosu oluşturuyorlar.

İğrenç ve ürkütücü sesli hikaye milyonlarca kez izlendi

Çok sayıda yapay zeka yazılımı ve web sitesi sayesinde içerik ve görsel oluşturmak hiç bu kadar kolay olmamıştı. Kullanıcılar sadece birkaç basit komutla, talep üzerine içerik ve görsel oluşturabilirler.

Bunu fırsat bilen pek çok YouTube kanalı, içeriği, görselleri ve sesleri yapay zekanın ürünü olan sesli hikayeler yayınladı.

Sabitlenmiş yorum kanalı, şiddet içeren içeriğin kurgusal olduğunu doğruluyor ancak "olumlu bir mesaj iletmek" başlığını neden ekledikleri belirsiz (Ekran Görüntüsü).

"Zengin kadın sesli hikayesi" ifadesi arandığında, yapay zeka tarafından oluşturulmuş, benzer içerik ve görsellere sahip bir dizi video gösteriliyor.

Farklı uzunluklara sahip olsalar da bu videoların hepsinin ortak noktası, yapay zeka tarafından yaratılan ve okunan sansasyonel, şiddet içerikli kurgular.

İlgi çekici içerikleri ve dedektif seslendirmeleriyle bu videolar kısa sürede binlerce, hatta milyonlarca izlenme ve etkileşim alıyor.

Bu kanallar her gün 2-3 video paylaşarak çok sayıda izleyici ve aboneye ulaşıyor.

Sanal içerik, gerçek etki

Kanalların kendilerinin "gerçek dışı" ve "tüm detayların kurgu" olduğunu kabul etmelerine rağmen, pek çok saçma hikâyenin hâlâ izleyici çektiğini belirtmekte fayda var.

Aslında pek çok kişi, özellikle yaşlılar veya teknoloji konusunda pek bilgisi olmayanlar, bu hikayelerin gerçek olduğuna inanıyor.

Kullanıcılar, Threads'te yapay zeka tarafından üretilen sesli hikaye videosunun ebeveynler ve yaşlılar arasında yanlış anlaşılmalara yol açması nedeniyle endişelerini dile getirdiler (Fotoğraf: Ekran Görüntüsü).

İçerikler, özellikle de yapay zeka tarafından oluşturulan görseller giderek daha gerçekçi hale geliyor ve bu da gerçek ile sahteyi ayırt etmeyi zorlaştırıyor. Trendlerden ve son dakika haberlerinden faydalanan birçok YouTube kanalı, izlenme sayısını artırmak için etkinlikleri "takip eden" videolar da oluşturuyor.

Yapay zekanın pek çok faydası olmasına rağmen şiddet ve saldırgan içerikli sanal videoların yaygınlaşması ciddi sonuçlar doğuruyor.

Bu sesli hikaye videoları hala binlerce kez izleniyor ve içerik ne kadar şok edici ve şiddet içerikliyse etkileşim de o kadar fazla oluyor.

Birçok kanal, içeriklerinin kurgusal olduğunu ve "sorumluluktan kaçındığını" iddia etse de, bu, içeriklerinin izleyicilerin algılarını ve hatta davranışlarını etkilemediği anlamına gelmez. Feragatnameler, kanalların oluşturdukları çöplerden "temizlenmelerinin" bir yoludur.

Soru şu: İzleyiciler sahte haber ile gerçek haber arasındaki farkı ayırt edemezse ne olacak? Ya da çocuklar yanlışlıkla çok sayıda şiddet unsuru içeren içerik izlediklerinde nasıl etkilenecekler?

Vietnam Ulusal Üniversitesi, Hanoi Teknoloji Üniversitesi Bilgi Teknolojileri Fakültesi öğretim görevlisi Dr. Nguyen Van Son, "Yapay zeka topluma ve topluma birçok pratik katkı sağlayabilir, ancak yanlış amaçlar için istismar edildiğinde ve kullanıldığında birçok ciddi sonuç doğurabilir" dedi.

Dr. Nguyen Van Son'a göre kullanıcıların yapay zekaya yaklaşırken ve uygularken farkındalıklarını ve sorumluluklarını artırmaları gerekiyor (Fotoğraf: Karakter sağlandı).

Dr. Son, özellikle gençleri, yapay zekaya yaklaşırken ve uygularken bilinçlendirmeye ve sorumluluk almaya çağırarak, siber alanda yayılan çöp ve saldırgan ürünler yerine kaliteli, medeni ürünler üretmeyi hedefledi.

Sesli hikaye dinleme alışkanlığı kötü bir şey değil, ancak insanların bu alışkanlıktan ve teknolojik gelişmelerden faydalanarak şiddet içeren ve saldırgan ürünler üretmesine istemeden de olsa yardımcı olmak, çevrimiçi ortamı kirletiyor.

Kullanıcıların, kamuoyunda karışıklığa yol açan yanlış bilgilerle yanlış yönlendirilmemek için bilgileri doğrulamaları ve kendilerini bir "filtre" ile donatmaları gerekiyor.

Kaynak: https://dantri.com.vn/cong-nghe/truyen-audio-phan-cam-tao-bang-ai-noi-dung-rac-thu-hut-trieu-view-20250723151755041.htm