Deepfake yaygınlaşıyor - Yapay zeka taklitçiliği hilelerinden kimse güvende değil

Ses taklidi, yüz taklidi, dudak senkronizasyonu... Yapay zeka artık sadece iş ve eğlence amaçlı değil, aynı zamanda tehlikeli bir ticari dolandırıcılık aracı haline geliyor. Ünlülerin, doktorların ve hatta rahiplerin görüntüleri, yapay zeka tarafından sosyal ağlarda ürün satmak için taklit ediliyor. Gerçek insanlar bilmiyor ve alıcılar güvenini kaybediyor.

Mal satmak için "ödünç yüz" olmak

"Orijinal diz nasıl olursa olsun, yöntemimizi uygulayın, 7 gün içinde önemli ölçüde iyileşme sağlayacağını garanti ediyoruz. Eğer tamamen etkisiz kalırsa, samimi bir özür olarak 1 milyar VND tazminat ödemeye hazırım. Gerçekten herhangi bir etki görmezseniz, %100 para iadesi taahhüt ediyoruz ve ben de 1 milyar VND tazminat ödemeye hazırım. Herkes böyle bir taahhütte bulunmaya cesaret edemez." Bu, eklem ağrısı giderici bir masaj kremi ürününün reklamını yapan ünlü bir kadın şarkıcının paylaşımıdır, ancak bu reklamın tamamen yapay zeka tarafından oluşturulduğunu belirtmekte fayda var.

Yukarıdaki reklam klibi, kadın şarkıcının görselini, sesini ve beden dilini, dikkatli bir gözlem olmadan tespit edilemeyecek kadar gerçekçi bir şekilde kullanan LShop adlı bir TikTok hesabı tarafından kullanılmıştır. Bu hesabın yaklaşık 9.000 takipçisi, 67.000 beğenisi ve her klibin binlerce kez görüntülenmesi bulunmaktadır. Yukarıdaki kadın şarkıcının görselini kullanan "reklam" videosu bile 1.000'den fazla beğeni ve satın alınmak üzere yaklaşık 100 yorum almıştır.

Aynı masaj kremi ürünüyle satış kanalları, bu sefer bir doktor olan deepfake versiyonunu da "üretmiş". Klipte karakter, " Hanoi'nin en prestijli ortopedi doktoruyum ve en ciddi menisküs yırtığının bile sadece 3 günde tamamen iyileşebileceğini garanti ediyorum. Bu jel, Vietnam'ın en prestijli ortopedi derneği tarafından onaylanmıştır" diyerek kararlı bir şekilde söz veriyor. Bu replik, yapay zeka tarafından bir dizi başka "doktor" için yeniden yaratılmış ve izleyicilerin gerçek sanmasını kolaylaştırmış.

Klip yaklaşık 4.000 beğeni ve 120'den fazla yorum aldı, ancak sipariş vermek için mesaj attığımızda hesap ne yanıt verdi ne de yorum bölümündeki izleyicilerle etkileşime geçti, ürünü doğrudan satın almaları için sepete bıraktı. Satışa sunulan ürünün Çin menşeli olduğu ve ürün bilgilerinin oldukça belirsiz olduğu dikkat çekiciydi.

Şarkıcılardan ünlülere, doktorlardan herkese kadar herkes, sağlık ürünlerini satmak için yapay zeka klipleri oluşturan satış kanalları tarafından taklit ediliyor.

Deepfake hilesi bununla da kalmayıp manevi konulara da sıçradı. Phat Phap NM adlı bir TikTok hesabı, Usta TPH'nin derslerini yeniden yayınlamakla kalmadı, aynı zamanda yapay zeka teknolojisini kullanarak "usta"nın Bodhi yaprakları ve agar ağacı bilezikleri gibi ürünler sattığı görselleri oluşturdu.

İzleyiciler yorum bırakıp satın almak istediklerini söylediğinde kanal şu ​​yanıtı verdi: "Eğer beklediğiniz gibi olmazsa, hesabımdaki teşhir bölümüne gidin ve ihtiyacınız olanı seçin, küçük parayla cimrilik edip büyük parayı görmezden gelmeyin." Hemen ardından bu keşiş, bu tür ürünlerin reklamını yapmadığını veya bunlarla hiçbir ilgisi olmadığını açıklamak zorunda kaldı.

Yaratıcılık ve İhlal Arasındaki Çizgi

Ulusal Siber Güvenlik İzleme Merkezi'nden (NCSC) siber güvenlik uzmanı Ngo Minh Hieu (Hieu PC), sosyal ağlarda yayılan sahte reklam kliplerinin çoğunlukla Deepfake yazılımlarıyla oluşturulduğunu söyledi. Bu yazılımlar nadir değil, hatta birçok hizmet düşük maliyetli ve oldukça basit kullanımlı paketler bile sunuyor. Dijital içerik oluşturma ve medya prodüksiyonu alanında olumlu uygulamalar bulunsa da, Hieu'ya göre asıl sorun, bazı kişilerin bu teknolojiyi dolandırıcılık, kimlik sahteciliği, sahte haber yayma veya gerçek gibi görünen videolar aracılığıyla başkalarını karalama gibi olumsuz amaçlarla kullanması.

Bay Hieu ayrıca deepfake klipleri tespit etmeye yardımcı olacak bazı işaretler de verdi; videodaki yüz ifadelerinin biraz kaskatı olması, ağız şekilleri ve diyalogla uyuşmayan hareketler gibi... Bay Hieu, yapay zekanın mağdurların yüzlerini hassas videolara korkutma, zorlama ve çıkar sağlama amacıyla yerleştirdiği daha ciddi durumların da olduğunu söyledi.

Ho Chi Minh Şehri Barosu avukatı Tran Duc Phuong'a göre, yapay zeka kullanarak ünlülerin (veya belirli kişilerin) rızaları olmadan görüntülerini oluşturmak, 2015 Medeni Kanunu'nun 32. maddesinde belirtilen kişisel hakların, özellikle de görüntü hakkının ihlali anlamına geliyor. Kanun şöyle diyor: "Bireyler kendi görüntülerine sahip olma hakkına sahiptir. Bir bireyin görüntüsünün kullanımı, o kişi tarafından onaylanmalıdır. Bir görüntünün ticari amaçlarla kullanılması durumunda, taraflar arasında farklı bir anlaşma olmadığı sürece, görüntü kullanılan kişiye tazminat ödenmelidir."

Dolayısıyla, bir sosyal ağ hesabı sahibi, gerçek fotoğraflardan, eski videolardan vb. yapay zeka ile yeniden oluşturulmuş görselleri izinsiz olarak reklam veya satış amacıyla kullanırsa, kanunu ihlal etmiş olur. Bir görselin kullanımı bu madde hükümlerini ihlal ediyorsa, görseli kullanan kişi, ihlal edenin, ilgili kurum, kuruluş ve kişilerin görseli geri çekmesini, imha etmesini ve kullanımının sona erdirilmesini, zararların tazmin edilmesini ve kanun hükümlerine göre diğer tedbirlerin uygulanmasını zorunlu kılan bir kararın mahkemeden alınmasını talep etme hakkına sahiptir.

CAM NUONG

Kaynak: https://www.sggp.org.vn/deepfake-tran-lan-khong-ai-an-toan-truoc-chieu-tro-gia-danh-bang-ai-post803313.html