Sosyal ağ X, şarkıcının deepfake pornografik görüntüleri viral olduktan sonra Taylor Swift aramalarını engellemek zorunda kaldı. X platformunda Taylor Swift'i arayan kullanıcılar, bir hata mesajı ve sayfayı yeniden yükleme isteğiyle karşılaşacak. X'in İş Operasyonları Direktörü Joe Benarroch, bunun bir ön işlem olduğunu ve dikkatli bir şekilde yürütüldüğünü söyledi.

ofdhxx6v.png
Yapay zekayla oluşturulan Taylor Swift'in çıplak fotoğrafları X ve Facebook'ta yayınlanmadan önce paylaşıldı. (Fotoğraf: Reuters)

Taylor Swift'in yapay zeka tarafından oluşturulmuş pornografik görüntüleri 24 Ocak'ta X platformunda dolaşmaya başladı ve bu durum, şarkıcının hayranlarını deepfake'i "bastırmak" için yıldızın bir dizi gerçek fotoğrafını yayınlamaya yöneltti. Ayrıca, X'ten bu fotoğrafları silmesini ve sahte fotoğraf paylaşan hesapları şikayet etmesini istediler. "Taylor Swift'i koruyun" sloganı da platformda en çok konuşulan trendlerden biri haline geldi.

Bir gün sonra bildirilen hesaplar askıya alındı ​​veya kısıtlandı, ancak X'te yapay zeka pornosu bulmak hala kolaydı.

X, hafta sonu yaptığı açıklamada, kişinin izni olmadan rahatsız edici görsellerin paylaşılmasını yasakladığını ve bu tür içeriklere karşı sıfır tolerans politikası uyguladığını belirtti. Açıklamada Swift'in ismi verilmedi.

X , "Ekibimiz tespit edilen tüm görselleri aktif olarak kaldırıyor ve bunları yayınlayan hesaplara karşı gerekli işlemleri başlatıyor. Herhangi bir ihlalin derhal ele alınmasını ve içeriğin kaldırılmasını sağlamak için durumu yakından takip edeceğiz," dedi.

Üretken yapay zeka alanındaki gelişmeler, başkalarının pornografik görüntülerini taklit etmeyi kolaylaştırdı. 2022'de Elon Musk'ın kontrolüne girmesinin ardından X ile birlikte birçok sansür düzenlemesi gevşetilirken, Musk mali durumunu istikrara kavuşturmak için binlerce çalışanı işten çıkardı.

NBC News'e göre, Taylor Swift'in deepfake görüntülerinin nereden geldiği belirsiz, ancak ünlülerin sahte pornografik görüntülerini dağıtmasıyla bilinen bir web sitesinden geldiklerini belirtmek için filigran eklenmişler. Web sitesinde ayrıca yapay zeka deepfake'lerine ayrılmış bir bölüm de bulunuyor. Swift'in sahte fotoğrafları, yayınlandıktan 19 saat sonra 27 milyondan fazla görüntülendi ve 260.000'den fazla beğenildi.

Olayın ardından Microsoft CEO'su Satya Nadella, yapay zekayı düzenlemek için daha fazla güvenlik önlemi alınması çağrısında bulundu. NBC News'e verdiği bir röportajda, daha güvenli içerikler üretebilmek için bu yeni teknolojiyi izleme sorumluluğumuz olduğunu savundu.

Swift'in deepfake'i hakkındaki bir soruya yanıt veren Microsoft CEO'su, "Evet, harekete geçmeliyiz. Bence hepimiz güvenli bir çevrimiçi dünyadan faydalanıyoruz. Hiç kimse hem içerik oluşturucuları hem de içerik tüketicileri için tamamen güvensiz bir çevrimiçi dünya istemez. Bu yüzden bu konuda hızlı hareket etmemiz gerektiğini düşünüyorum." dedi.

404 Media'ya göre, bir Telegram sohbet grubu, Taylor'ın fotoğrafını sahte olarak oluşturmak için Microsoft'un yapay zeka destekli Tasarımcı aracını kullandığını söyledi. Bay Nadella, 404 Media'nın bilgileri hakkında doğrudan yorum yapmadı, ancak haber sitesine gönderilen bir açıklamada Microsoft, raporu araştırdığını ve uygun önlemleri alacağını belirtti.

ABD Başkanı Joe Biden yönetimi, Taylor Swift'in pornografik deepfake videosunun yayılmasını "endişe verici" olarak nitelendirdi ve sosyal medya şirketlerini, yanlış bilgi ve hassas görsellerin izinsiz yayılmasını önlemek için düzenlemelerin uygulanmasındaki "hayati rollerini" incelemeye çağırdı.

Ekim 2023'te Başkan Biden, ortaya çıkan teknolojiyi ve risklerini düzenlemeye odaklanan yapay zekaya ilişkin bir kararname imzaladı.

(The Hill, WSJ'ye göre)