Deepfake porno, yapay zeka yarışında bir sorun

Deepfake'ler, yapay zekâ (YZ) veya makine öğrenimi (ML) kullanılarak dijital olarak oluşturulan veya değiştirilen video ve görsellerdir. Bu teknoloji kullanılarak oluşturulan pornografi, birkaç yıl önce bir Reddit kullanıcısının ünlülerin yüzlerini içeren sahte porno klipleri paylaşmasıyla internette yayılmaya başladı.

Fotoğraf: GI

Herkes mağdur olabilir.

O zamandan beri, deepfake içerik oluşturucuları, çevrimiçi fenomenleri, gazetecileri ve kamuya açık profilleri olan diğer kişileri hedef alan benzer videolar ve görseller yayınlamaya devam etti. Çok sayıda web sitesinde binlerce bu tür video bulunmaktadır.

Yapay zeka teknolojilerinin giderek daha erişilebilir hale gelmesi, kullanıcıların istedikleri kişileri rızaları olmadan "porno yıldızı" haline getirmelerine veya daha tehlikelisi, bu teknolojiyi başkalarını karalamak veya şantaj yapmak için kullanmalarına olanak tanıyor.

Uzmanlar, internetten milyarlarca görsel üzerinde eğitilen ve mevcut verileri kullanarak yeni içerikler üreten üretken yapay zeka araçlarının geliştirilmesiyle sorunun daha da kötüleşebileceğini söylüyor.

Teknolojinin kötüye kullanımı konusunda eğitim veren bir grup olan EndTAB'ın kurucusu Adam Dodge, "Gerçek şu ki teknoloji yayılmaya, gelişmeye ve daha kolay erişilebilir hale gelmeye devam edecek," dedi. "Ve bu devam ettiği sürece, insanlar şüphesiz... başkalarına zarar vermek için bu teknolojiyi kötüye kullanmaya devam edecekler; özellikle de çevrimiçi cinsel şiddet, deepfake pornografi ve sahte çıplaklık fotoğrafları yoluyla."

Avustralya, Perth'ten Noelle Martin bu gerçeği deneyimledi. 28 yaşındaki kadın, 10 yıl önce merak edip kendi fotoğrafını Google'da aradığında kendisine ait deepfake pornosunu keşfetti. Martin, sahte porno görselleri veya videoları kimin oluşturduğuna dair hiçbir fikri olmadığını söylüyor. Birisinin sosyal medya fotoğraflarını kullanarak porno videolar oluşturduğundan şüpheleniyor.

Martin, videoları kaldırmaları için sitelerle iletişime geçmeye çalıştı, ancak çabaları sonuçsuz kaldı. Bazıları yanıt vermedi. Bazıları videoları kaldırıp hemen tekrar yayınladı. "Kazanamazsınız," dedi Bayan Martin. "İnternette sonsuza dek kalacak ve hayatınızı mahvedebilir."

Teknoloji şirketlerinin sorunu çözme çabaları

Bazı yapay zeka modelleri, pornografik görüntülere erişimin kısıtlandığını söylüyor.

OpenAI, DALL-E görüntü oluşturucusunu eğitmek için kullanılan verilerden pornografik içerikleri kaldırdığını ve bunun kötüye kullanılma olasılığını sınırlayacağını belirtti. Şirket ayrıca talepleri filtreliyor ve kullanıcıların ünlülerin ve önde gelen politikacıların yapay zeka görüntülerini oluşturmasını engellediğini belirtiyor. Midjourney adlı bir diğer model de belirli anahtar kelimelerin kullanımını engelliyor ve kullanıcıları sorunlu görüntüleri moderatörlere bildirmeye teşvik ediyor.

Bu arada, Stability AI da kullanıcıların müstehcen fotoğraflar oluşturmasını engelleyen bir güncelleme yayınladı. Bu değişiklikler, bazı kullanıcıların bu teknolojiyi ünlülerden ilham alan çıplak fotoğraflar oluşturmak için kullandığına dair haberlerin ardından geldi.

Stability AI sözcüsü Motez Bishara, filtrenin çıplaklığı tespit etmek için anahtar kelimeler ve görüntü tanıma gibi diğer tekniklerin bir kombinasyonunu kullandığını söyledi. Ancak şirket, uygulamanın açık kaynak kodunu yayınladığı için kullanıcılar yazılımı ayarlayıp istediklerini yaratabiliyor.

Bazı sosyal medya şirketleri de platformlarını zararlı içeriklerden daha iyi korumak için kurallarını sıkılaştırdı.

TikTok geçen ay, tüm deepfake veya manipüle edilmiş içeriklerin sahte veya bir şekilde değiştirilmiş olduğunu belirtmek için etiketlenmesi gerektiğini söyledi.

Oyun platformu Twitch de, Ocak ayı sonlarında Atrioc isimli popüler bir yayıncının canlı yayın sırasında tarayıcısında deepfake porno sitesi açtığının yakalanmasının ardından deepfake görsellerle ilgili politikalarını güncelledi.

Apple ve Google, ürünlerini pazarlamak amacıyla cinsel içerikli deepfake videolar yayınlayan bir uygulamayı yakın zamanda uygulama mağazalarından kaldırdıklarını açıkladı.

Batılı şarkıcıdan K-Pop idolüne.

Deepfake porno üzerine yapılan araştırmalar nadirdir, ancak yapay zeka şirketi DeepTrace Labs'ın 2019 tarihli raporuna göre, bu tür içerikler neredeyse tamamen kadınlara karşı silah olarak kullanılıyordu ve en çok hedef alınanlar Batılı aktrisler, ardından da K-pop şarkıcılarıydı.

Meta sözcüsü Dani Lever, yaptığı açıklamada şirketin politikalarının hem yapay zeka tarafından üretilen hem de üretilmeyen yetişkinlere yönelik içerikleri kısıtladığını ve deepfake üreten uygulamanın sayfasının platformunda reklam yayınlamasını engellediğini söyledi.

Şubat ayında Meta'nın yanı sıra Only**** ve Porn*** gibi yetişkin siteleri, gençlerin internetteki kendilerine ait cinsel içerikli resim ve videoları bildirmelerine olanak tanıyan Take It Down adlı bir çevrimiçi araca katılmaya başladı. Site, hem gizlice çekilmiş videoları hem de yapay zeka tarafından üretilen videoları destekliyor.

Hoang Ton (AP'ye göre)

Kaynak: https://www.congluan.vn/deepfake-khieu-dam-van-nan-trong-cuoc-dua-ai-post244021.html