Ne tür isterseniz bizde var.
Bayan Loan, bir kafede telefonunda gezinirken, ekranında yaşlı bir adamın bir "karaoke bara" girip aynı anda beş genç ve çekici kadını çağırarak çılgınca dans ettiği bir görüntü görünce şok oldu... "O yaşlı adamın yüzü benimkine çok benziyordu. Görüntü hayal gücünün ötesindeydi; eğer küçük çocuklarımız bunu görseydi onlara ne derdik... büyük bir sorun olurdu," diye anlattı Bayan Loan.
Sosyal medyada artık sesli ve görsel olarak müstehcen içerikli birçok yapay zeka videosu yer alıyor.
Diğer görüntüler arasında, yaşlı bir adamın motosikletle sokaklarda hızla ilerlerken üzerinde az giyinmiş üç genç kızı taşıdığı görülüyor. Sürücü, "Arkamdan çekilin ikiniz! O vidalar sırtıma bastırırken nasıl dayanabilirim ki...?" diye bağırıyor. Ya da bir kızın pazarda yaşlı bir adamla röportaj yaparken kadınlar hakkında aşağılayıcı yorumlar yaptığı veya eski kız arkadaşı hakkında kaba cevaplar verdiği bir görüntü de var...
"Şu anda sosyal medya platformlarında, yapay zekâ araçları tarafından oluşturulmuş, yarı çıplak kızların yer aldığı, fizyoloji ve seksle ilgili müstehcen diyaloglar içeren ve kültürel değerleri ihlal eden yüzlerce, hatta binlerce video var ve bunlar akıllı algoritmalar aracılığıyla mobil kullanıcılara ulaşıyor. Herkes istediği türde video oluşturabiliyor," diye endişesini dile getirdi banka çalışanı Thanh Hoai.
Günümüzde, HeyGen, Synthesia, Pictory, InVideo, Kling AI, Luma AI, Veed.io, FlexClip, Wave Video gibi yapay zeka video oluşturma araçları yaygınlaşmıştır. Her aracın özellikler, görüntü kalitesi, avatar kişiselleştirme yetenekleri, çok dilli destek veya yapay zeka seslendirmeleri ve özel efektlerin entegrasyonu açısından kendine özgü güçlü yönleri vardır. Yukarıda belirtildiği gibi, "gerçekçi" kalitede ve "aşırı" görüntü ve seslere sahip yapay zeka videoları, çoğunlukla Google Veo 3 AI kullanılarak oluşturulmuş şekilde, internette sıkça karşımıza çıkmaktadır. Bu yapay zeka modeli, komutlardan video oluşturabilme, karakterler arasındaki diyaloglar veya hayvan sesleri gibi canlı sesleri entegre edebilme yeteneğine sahiptir ve yalnızca "sessiz" videolar veya basit arka plan müziği içeren videolar oluşturan diğer yapay zeka modellerine kıyasla önemli bir ilerleme olarak kabul edilmektedir.
Özellikle kışkırtıcı veya müstehcen yapay zekâ videoları, birçok kişinin aylık birkaç on dolardan birkaç yüz dolara kadar değişen yapay zekâ araç sağlayıcı paketlerine abone olabilmesi nedeniyle hızla mobil kullanıcılara ulaşıyor. Aynı zamanda, birçok kişi temel paketler (kısa videolar, ortalama görüntüler), gelişmiş paketler (birçok efekt içeren yüksek kaliteli videolar) ve profesyonel paketler (gelişmiş özelliklere sahip yaratıcı videolar) gibi kapsamlı yapay zekâ video oluşturma hizmetleri sunuyor... fiyatlar uzunluğa, karmaşıklığa ve seslendirme, çok dilli altyazı ve SEO optimizasyonu gibi ek özelliklere bağlı olarak değişiyor. Sosyal medya içerik üreticisi Trong Hoa, "İstediğiniz her tür yapay zekâ videosuna sahibiz. İster saldırgan derecede komik içerik, ister halka açık yerlerde müstehcen görüntüler veya şok edici diyaloglar isteyin... hepsini yapabiliriz," diyor.
Birçok öngörülemeyen sonuç
Google, Veo 3 tarafından oluşturulan tüm içeriğin, yapay zeka tarafından oluşturulan içeriği izlemeye ve tanımlamaya yardımcı olan DeepMind'ın bir teknolojisi olan SynthID ile filigranlandığını iddia ediyor. Ek olarak, şirket, kullanıcıların yapay zeka içeriğini sorumlu bir şekilde oluşturmalarına ve tanımlamalarına yardımcı olma amacını vurgulayarak güvenli kullanım yönergeleri sunuyor…
Ancak, genel olarak yapay zekâ videolarının ve özellikle Veo 3 aracının ortaya çıkmasıyla birlikte, yapay zekânın etik sorunları belirli bir bakış açısından gündeme gelmektedir. Yapay zekâ kültürel kimliği bozar: Yapay zekâ, ulusal kültürün "melez" versiyonlarını oluşturarak kökenler konusunda kafa karışıklığına yol açabilir, kültürel kimliğin özünü kaybettirebilir ve uzun vadede toplumun orijinal değerler ile varyasyonlar arasında ayrım yapmasını zorlaştırabilir. Kültürel mülkiyet haklarının ihlali: Yapay zekâ, kültürel unsurları tanınma veya telif hakkı koruması olmadan kolayca toplayabilir, kopyalayabilir ve çoğaltabilir; bu da geleneksel değerlerin yaygın kullanımına yol açar. Sosyo-psikolojik etki: Sahte içeriğe sık sık maruz kalmak, kullanıcıların kafasının karışmasına ve tüm bilgilerin gerçekliğinden şüphe duymasına neden olarak sosyal güveni ve paylaşılan kültürel değerleri etkiler.
“Bu teknolojinin hızlı gelişimi, yasal düzenlemelerin, telif hakkı koruma önlemlerinin ve doğrulama yöntemlerinin aynı hızda gelişmemesi anlamına gelmiş ve geleneksel kültürel değerlerin korunması ve geliştirilmesinde birçok zorluğa yol açmıştır. Veo 3 sadece bir eğlence aracı değil, aynı zamanda medya, eğitim , pazarlama ve hatta film alanlarında da bir atılım niteliğindedir. Ancak, fırsatların yanı sıra, teknoloji suistimali riski, yaratıcı endüstrilerde insan gücünün yerini alma ve beraberindeki etik sorunlar da dahil olmak üzere önemli zorluklar bulunmaktadır. Bu nedenle, Veo 3 gibi yapay zekanın sorumlu bir şekilde geliştirilmesi ve kullanılması için politikaların, etik standartların ve toplum için dijital beceri eğitiminin rolü son derece önemlidir,” diye belirtti GenZ Şirketi Direktörü Phan Phuoc Quoc.
Başka bir açıdan bakıldığında, yapay zeka araçları geliştikçe siber saldırı riski de artmaktadır. Yapay zeka video oluşturma araçları ne kadar gelişmiş hale gelirse, deepfake siber saldırı riski de o kadar artar ve yeni ve daha tehlikeli biçimlere yol açar. Dünyanın en büyük antivirüs yazılım şirketlerinden biri olan Kaspersky'ye göre, ortalama her 5 dakikada bir deepfake saldırısı gerçekleşiyor ve 2026 yılına kadar çevrimiçi içeriğin %90'ının yapay zeka kullanılarak oluşturulabileceği tahmin ediliyor. Deepfake saldırılarının ana hedefleri, kişisel, bankacılık ve ödeme bilgilerinin ele geçirilmesiyle sıradan kullanıcılar olmaya devam ediyor.
Ulusal Siber Güvenlik Birliği (NCA) Araştırma, Danışmanlık, Teknoloji Geliştirme ve Uluslararası İşbirliği Departmanı Başkanı Vu Ngoc Son, “Deepfake teknolojisi kullanılarak yanlış bilgi ve sahte içerik yayılma riski birçok insanda endişe yaratıyor. Veo 3 gibi yapay zeka araçları, sahte içerik üretmek için kötüye kullanılabilir ve bu da bireylerin ve kuruluşların itibarını zedeleyebilir veya sosyal bilgi akışında bozulmaya neden olabilir” dedi.
BA TAN
Kaynak: https://www.sggp.org.vn/canh-giac-video-ai-phan-cam-post799084.html
Yorum (0)