OpenAI'nin yeni video oluşturma aracı, yapay zekanın ölen sevdiklerinin görüntülerini saldırgan, çarpıtılmış ve bazen aşağılayıcı videolarda "yeniden canlandırması" nedeniyle ünlü ailelerini krize sürüklüyor.
Malcolm X'ten Whitney Houston'a, Kobe Bryant'a kadar ölmüş kişilerin yapay zeka tarafından oluşturulan videoları, yapay zeka çağında etik sınırlar ve görüntü kontrolü hakkında soruları gündeme getirerek büyük bir karışıklığa yol açtı.
Saldırgan içerik
Sivil haklar aktivisti Malcolm X'in kızı İlyasah Şahbaz, babasının yapay zeka tarafından oluşturulmuş kliplerini görmek istemediğini söylüyor. Bu videolar, Malcolm X'in kaba şakalar yaptığı ve Rahip Martin Luther King ile tartıştığı sahneler oluşturmak için OpenAI'nin yeni çıkan metinden videoya dönüştürme aracı Sora 2 kullanılarak çekildi.
Shabazz, Washington Post'a verdiği demeçte, "Babamın imajının böylesine anlamsız bir şekilde istismar edildiğini görmek hem saygısızca hem de yürek parçalayıcı . Bu teknolojiyi geliştiren insanların neden kendi aileleri için gösterdikleri aynı vicdan ve özeni göstermediklerini anlamıyorum." dedi .
 |
Sora 2, ölen kişilerin görüntülerinden izinsiz videolar oluşturuyor. Fotoğraf: Bloomberg . |
Sora 2, inanılmaz derecede gerçekçi videolar oluşturma yeteneği sayesinde hızla küresel bir fenomen haline geldi. Uygulama, piyasaya sürülmesinden birkaç gün sonra indirme listelerinde zirveye yerleşti. Ancak hızlı yayılımı, sosyal medyada bir dizi sahte ünlü videosunun ortaya çıkmasına da yol açtı.
Michael Jackson, Elvis Presley ve Amy Winehouse'un "yeniden canlandırılan" görüntüleri baş döndürücü bir hızla yayıldı ve birçok izleyici gerçek ile sahteyi ayırt edemez hale geldi.
Bazı videolar komik olmak için tasarlanmıştır, örneğin "Mr. Rogers' Neighborhood" sunucusu Fred Rogers'ın Tupac Shakur ile rap yaptığı video gibi. Ancak oluşturulan içeriğin çoğu aşırıya kaçıyor.
Bunlar arasında, Whitney Houston'ın sarhoş haldeyken polis kamerasıyla sahte bir açıdan görüntülenmesi, Kobe Bryant'ın kendisi ve kızının ölümüne yol açan kazada helikopterle uçması ve eski Başkan John F. Kennedy'nin çağdaş bir politikacının suikastıyla ilgili yaptığı espriler toplumu öfkelendirdi.
Gevşek düzenlemeler
OpenAI'nin politikası, aracın yalnızca gerçek kişileri rızalarıyla simüle edebileceğini belirtiyor. Ancak şirket, son lansmanında "tarihi şahsiyetleri" bu kuraldan muaf tutarak kullanıcıların vefat etmiş kişilerin videolarını özgürce oluşturmalarına olanak tanıdı. Bu karar, birçok mağdurun ailesini öfkelendirdi.
Merhum aktör Robin Williams'ın kızı Zelda Williams, Instagram'da babasının yapay zeka videolarının kendisine sürekli gönderildiğini paylaşarak, insanlardan "Lütfen durun" diye yalvardı.
Zelda, "Gerçek insanların miraslarının TikTok'un kontrolünde korkunç olaylara indirgendiğini görmek çılgınca." dedi.
 |
OpenAI'nin Sora 2'yi kullanma kuralları birçok açıkla dolu. Fotoğraf: Bloomberg . |
Uzmanlar, bu olgunun yapay zeka teknolojisinde yaratıcılık ile saldırganlık arasındaki çizginin belirsizleştiği bir dönüm noktasını yansıttığını söylüyor. Deepfake araştırmacısı Henry Ajder, ölülerin "sentetik dirilişinin" kişisel imaj ve mirasın kontrolü konusunda büyük sorular ortaya çıkardığını söyledi.
"Ünlülerin fotoğraflarını içerik oluşturmak için kullanırsanız, kesinlikle ilgi çekecektir. Ancak ölen kişi söz konusu olduğunda, daha derin bir soruya değiniyoruz: anılarına ve kimliklerine kim sahip çıkıyor?" dedi Ajder.
Tepkiler üzerine OpenAI, yakın zamanda vefat eden kamu figürlerinin temsilcilerinin, Sora videolarından görüntülerinin engellenmesini talep etmelerine izin vereceğini söyledi. Bir OpenAI sözcüsü, "Kamu figürlerinin ve ailelerinin, telif hakkıyla korunan görüntülerinin nasıl kullanılacağı konusunda kontrol sahibi olması gerektiğine inanıyoruz" dedi.
ABD eğlence sektöründeki birçok kuruluş da endişelerini dile getirdi. Birçok Hollywood yıldızının menajerlik şirketi olan Creative Artists Agency, Sora 2'nin müşterileri ve fikri mülkiyet haklarını ciddi şekilde riske attığını söyledi. Amerika Sinema Derneği (MPAA), OpenAI'yi yaratıcıların haklarını korumak için "acil ve kararlı" adımlar atmaya çağırdı.
Sadece sanatçılar değil, tarihi şahsiyetler de kurban gitti. Sora'nın hazırladığı bir videoda Winston Churchill'in JetBlue'yu tanıttığı veya internetteki müstehcen şakalara atıfta bulunduğu görülüyor.
Kaynak: https://znews.vn/ai-tao-video-gay-phan-cam-post1593268.html
Yorum (0)