Siyasi içerikli deepfake'ler, kötü amaçlı yapay zeka kullanıcılarının başında geliyor.

Google DeepMind tarafından yapılan araştırmalar, sahte insan görüntüleri, videoları ve ses kayıtları oluşturmanın, yapay zekâ destekli sohbet robotları gibi araçlar kullanılarak yanlış bilgi üretmekten neredeyse iki kat daha yaygın olduğunu gösteriyor.

Analizler, yapay zekayı kötüye kullanan aktörlerin en yaygın amacının kamuoyunu şekillendirmek veya etkilemek olduğunu ortaya koyuyor. Bu, kullanımın %27'sini oluşturuyor ve deepfake'lerin bu yıl küresel seçimleri nasıl etkileyebileceğine dair endişeleri artırıyor.

İngiltere Başbakanı Rishi Sunak'ı tasvir eden sahte bir sanat eseri, genel seçimler öncesinde TikTok ve Instagram'da ortaya çıktı. Fotoğraf: AFP

Son aylarda İngiltere Başbakanı Rishi Sunak'ın yanı sıra diğer küresel liderlerin deepfake videoları TikTok, X ve Instagram'da ortaya çıktı. İngiliz seçmenler önümüzdeki hafta genel seçimler için sandık başına gidecek.

Sosyal medya platformlarının bu tür içerikleri etiketleme veya kaldırma çabalarına rağmen, izleyicilerin bunların sahte olduğunu fark etmeyebileceği ve yayılmasının seçmenleri etkileyebileceği yönünde endişeler var.

Alan Turing Enstitüsü'nde araştırma görevlisi olan Ardi Janjeva, makalenin bulgularını "özellikle önemli" olarak nitelendirerek, yapay zeka tarafından üretilen kamu bilgilerinin "sosyo -politik gerçekliğe dair ortak anlayışımızı çarpıtabileceğini" öne sürdü.

Janjeva, "Deepfake teknolojisinin oy verme davranışı üzerindeki etkisinden emin olmasak bile, bu bozulmanın kısa vadede tespit edilmesi zor olabilir ve demokrasi için uzun vadeli bir risk oluşturabilir" diye ekledi.

Google DeepMind'da görevli araştırmacı ve çalışmanın baş yazarı Nahema Marchal, "Bu araçların oluşturabileceği oldukça karmaşık siber saldırılarla ilgili birçok endişe var" dedi.

Google DeepMind ve Jigsaw'daki araştırmacılar, Ocak 2023 ile Mart 2024 arasında X ve Reddit gibi sosyal medya platformlarından, ayrıca çevrimiçi bloglardan ve kötüye kullanım hakkındaki medya haberlerinden elde edilen yaklaşık 200 yapay zeka kötüye kullanım örneğini analiz etti.

Suistimalin ardındaki ikinci en yaygın motivasyon ise para kazanmaktır; buna gerçek kişilerin çıplak görüntülerini oluşturmak veya yapay zekayı kullanarak sahte haber makaleleri gibi çeşitli içerikler üretmek de dahildir. Çoğu durumda, "minimum teknik uzmanlık gerektiren" kolayca erişilebilir araçlar kullanılır; bu da birçok kötü niyetli kişinin yapay zekayı yaratıcı bir şekilde kötüye kullanabileceği anlamına gelir.

Ngoc Anh (FT'ye göre)

Kaynak: https://www.congluan.vn/nghien-cuu-deepfake-chinh-tri-dung-dau-trong-danh-list-su-dung-ai-doc-hai-post300851.html