Deepfake teknolojisi hızla yayılıyor - Yapay zekâ destekli taklit hilelerinden kimse güvende değil.

Ses taklidi, yüz taklidi, dudak senkronizasyonu... Yapay zeka artık sadece iş veya eğlence için değil; ticari dolandırıcılık için tehlikeli bir araç haline geliyor. Ünlülerin, doktorların ve hatta Budist rahiplerin görüntüleri, sosyal medyada geniş çapta ürün satmak için yapay zeka tarafından taklit ediliyor. Gerçek kişiler bunun farkında değil ve alıcılar güvenlerini kaybediyor.

Ürün satmak için "kullanılmak".

"Dizinizin başlangıçtaki durumu ne olursa olsun, yöntemimizi uygulayın ve 7 gün içinde önemli bir iyileşme garanti ediyoruz. Eğer hiçbir etki olmazsa, içten bir özür olarak 1 milyar VND ödemeye hazırım. Gerçekten hiçbir etki görmezseniz, %100 para iadesi garanti ediyoruz ve ben de 1 milyar VND'yi tazmin etmeye hazırım. Herkes böyle bir taahhütte bulunmaya cesaret edemez," bu, eklem ağrılarını hafifleten bir masaj kreminin reklamını yapan ünlü bir kadın şarkıcının açıklaması; ancak dikkat çekici olan, bu reklamın tamamen yapay zeka kullanılarak oluşturulmuş olması.

LShop adlı bir TikTok hesabı tarafından oluşturulan söz konusu reklam videosu, şarkıcının görüntüsünü, sesini ve vücut dilini yakından incelenmedikçe fark edilemeyecek şekilde kullanıyor. Bu hesabın yaklaşık 9.000 takipçisi, 67.000 beğenisi var ve her video binlerce kez izleniyor. Şarkıcının yer aldığı video ise 1.000'den fazla beğeni ve yaklaşık 100 yorum alarak satın alma talebinde bulunuyor.

Masaj kremi ürünüyle birlikte, satış kanalları bu kez bir doktoru konu alan başka bir deepfake versiyonu da "üretti". Klipte, karakter kendinden emin bir şekilde şunları vaat ediyor: " Hanoi'deki en saygın ortopedi doktoruyum ve en ciddi menisküs yırtıklarının bile sadece 3 günde tamamen iyileştirilebileceğini garanti ediyorum. Bu jel, Vietnam'daki en prestijli ortopedi derneği tarafından onaylanmıştır." Bu diyalog, yapay zeka tarafından bir dizi başka "doktor" için de yeniden oluşturularak izleyicilerin bunun gerçek olduğuna kolayca inanmasına yol açıyor.

Video yaklaşık 4.000 beğeni ve 120'den fazla yorum aldı, ancak sipariş vermek için satıcıya mesaj attığımızda hesap yanıt vermedi veya yorum bölümündeki izleyicilerle etkileşime girmedi; ürünü sadece doğrudan satın alma için alışveriş sepetinde bıraktılar. Dikkat çekici olan, reklamı yapılan ürünün Çin menşeli olması ve ürün bilgilerinin çok belirsiz olmasıydı.

Şarkıcılardan ve ünlülerden doktorlara kadar herkes, sağlıkla ilgili ürünler satmak için onları taklit eden sahte yapay zeka videoları oluşturan satış kanalları tarafından hedef alınıyor.

Deepfake dolandırıcılığı bununla da kalmadı; manevi konulara bile yayıldı. Phật Pháp NM adlı bir TikTok hesabı, Saygıdeğer TPH'nin vaazlarını yeniden yayınlamakla kalmadı, aynı zamanda yapay zeka teknolojisini kullanarak "Saygıdeğer"in görüntülerini oluşturup Bodhi yaprakları ve agarwood bileklikler gibi ürünler sattı.

İzleyiciler satın alma isteğiyle ilgili yorumlar bırakınca, kanal şu ​​yanıtı verdi: "Eğer bir şey hoşunuza gitmiyorsa, lütfen hesabımın sergileme bölümüne gidin ve ihtiyacınız olanı seçin. Az bir miktarla cimri davranıp daha büyük bir fırsatı kaçırmayın." Kısa bir süre sonra, keşişin kendisi de bu tür ürünlerin reklamını hiç yapmadığını veya bunlarla hiçbir ilgisinin olmadığını açıklamak zorunda kaldı.

Yaratıcılık ile bireysel hakların ihlali arasındaki çizgi.

Ulusal Siber Güvenlik İzleme Merkezi'nden (NCSC) siber güvenlik uzmanı Ngo Minh Hieu'ya (Hieu PC) göre, sosyal medyada dolaşan sahte reklam videoları çoğunlukla Deepfake yazılımı kullanılarak oluşturuluyor. Bu yazılım yaygın; birçok servis düşük maliyetli ve çok basit kullanımlı paketler bile sunuyor. Dijital içerik oluşturma ve medya üretiminde olumlu uygulamaları olsa da, Bay Hieu sorunun bazı kişilerin bu teknolojiyi dolandırıcılık, kimlik taklitçiliği, sahte haber yayma veya gerçek gibi görünen videolar aracılığıyla başkalarını karalama gibi olumsuz amaçlar için kullanmasında yattığına inanıyor.

Sayın Hieu ayrıca, deepfake videolarını tanımlamaya yardımcı olacak bazı işaretlere de dikkat çekti; bunlar arasında videodaki yüz ifadelerinin donuk görünmesi, ağız ve dudak hareketlerinin diyalogla uyuşmaması yer alıyor… Sayın Hieu, yapay zekanın, mağdurların yüzlerini hassas videolara yerleştirerek korkutma, zorlama ve kar elde etme amacıyla kullanıldığı daha ciddi durumların da yaşandığı konusunda uyardı.

Ho Chi Minh Şehri Barosu avukatı Tran Duc Phuong'a göre, ünlülerin (veya belirli kişilerin) rızaları olmadan yapay zekâ kullanılarak görüntülerinin oluşturulması, 2015 Medeni Kanunu'nun 32. maddesinde belirtildiği üzere, kişisel hakların, özellikle de kişinin kendi görüntüsü üzerindeki hakkının ihlalidir. Kanun şöyle der: “Bireylerin kendi görüntüleri üzerinde hakları vardır. Bir bireyin görüntüsünün kullanımı, kişinin rızasıyla olmalıdır. Bir görüntünün ticari amaçlarla kullanılması, taraflarca aksi kararlaştırılmadıkça, görüntüsü kullanılan kişiye tazminat ödenmesini gerektirir.”

Bu nedenle, bir sosyal medya hesabı sahibi, gerçek fotoğraflardan, eski videolardan vb. yapay zeka tarafından oluşturulmuş görüntüleri izinsiz olarak reklam veya satış amacıyla kullanırsa, yasayı ihlal etmiş olur. Görüntülerin kullanımı bu hükmü ihlal ederse, görüntüsü kullanılan kişi, ihlal edeni, ilgili kurumu, kuruluşu veya bireyi görüntüyü geri çekmeye, imha etmeye ve kullanmayı durdurmaya, zararları tazmin etmeye ve diğer yasal yaptırımları uygulamaya zorlayan bir mahkeme kararı talep etme hakkına sahiptir.

CAM NUONG

Kaynak: https://www.sggp.org.vn/deepfake-tran-lan-khong-ai-an-toan-truoc-chieu-tro-gia-danh-bang-ai-post803313.html