Deepfake ses, yanlış bilgilendirmeyle ilgili yeni bir endişe

New Hampshire Başsavcılığı Pazartesi günü yaptığı açıklamada, eyaletteki ön seçimlerde seçmenlere oy kullanmamaları yönünde çağrı yapan ve ABD Başkanı Joe Biden'a tıpatıp benzeyen sahte bir sese ilişkin şikayetlerin ardından olası seçmen manipülasyonu araştırıldığını duyurdu.

Araştırmacılar ayrıca, politikacıları ve liderleri taklit etmek için deepfake ses kullanımı konusunda da uyarıda bulundu; bu konuda 2023 yılında İngiltere, Hindistan, Nijerya, Sudan, Etiyopya ve Slovakya'da önemli vakalar yaşandı.

deepfake yeni ses yeni bilgi yanlış görüntü 1 — ABD'nin New Hampshire eyaletindeki ön seçimlerde oy kullanan bir kişi. Fotoğraf: Getty

Uzmanlara göre, yeni kurulan şirketlerin sunduğu çeşitli ucuz ve etkili yapay zeka araçları sayesinde deepfake ses kayıtları popüler bir yanlış bilgilendirme biçimi haline geldi. Microsoft ayrıca, yalnızca üç saniyelik kayıtlardan sesleri kopyalayabilen yeni bir yapay zeka modeli geliştirdi.

Adobe, Meta ve EY'de yapay zeka ve deepfake uzmanı ve danışmanı olan Henry Ajder, "Görsel manipülasyon söz konusu olduğunda, herkes Photoshop'a aşinadır veya en azından varlığından haberdardır," dedi. "Sesin nasıl manipüle edilebileceği konusunda çok az farkındalık var, bu yüzden bence bu bizi gerçekten savunmasız bırakıyor."

Eylül ayında, haber sitelerinin kalitesini ve güvenilirliğini değerlendiren bir sistem olan NewsGuard, komplo teorilerini ve siyasi dezenformasyonu yaymak için yapay zeka tarafından üretilen içerikleri kullanan, meşru haber siteleri gibi görünen bir TikTok hesabı ağı keşfetti. Eski ABD Başkanı Barack Obama'nın sesini de içeren deepfake kayıtları yüz milyonlarca kez izlendi.

NewsGuard, sahte seslendirmelerin Andreessen Horowitz destekli ElevenLabs tarafından sağlanan bir araç tarafından oluşturulmuş gibi göründüğünü ve kliplerin yüz milyonlarca kez izlendiğini söyledi.

ElevenLabs, "Platformumuzdaki kullanıcıların %99'undan fazlası ilgi çekici, yaratıcı ve faydalı içerikler oluşturuyor, ancak kötüye kullanım vakalarının da olduğunu biliyoruz ve bunları sınırlamak için sürekli olarak koruma önlemleri geliştirdik ve uygulamaya koyduk" dedi.

İki yıl önce eski Google ve Palantir çalışanları Piotr Dabkowski ve Mati Staniszewski tarafından kurulan ElevenLabs, tek bir tıklamayla temel yapay zeka ses üretim araçlarını ücretsiz olarak sunuyor. Daha karmaşık hizmetler arayanlar için abonelik planları aylık 1 dolardan 330 dolara ve daha fazlasına kadar değişiyor.

ABD istihbarat teşkilatları geçen yıl yayınladıkları bir raporda, "gelişmiş ve iyi eğitilmiş yapay zeka ses klonlama modellerinin piyasaya sürülmesiyle kişiselleştirilmiş yapay zeka dolandırıcılıklarının önemli ölçüde arttığı" uyarısında bulunmuştu.

Siyasi uzmanlar, finansal amaçlı dolandırıcılıkların yanı sıra, artık viral deepfake ses kayıtları ve robot aramalar veya kampanyalar için deepfake kullanımı konusunda da alarm veriyor. Siber güvenlik grubu ZeroFox'un başkan yardımcısı ve seçkin istihbarat uzmanı AJ Nash, "Telefonları hedef alarak güçlü ve yaygın bir dezenformasyon kampanyası oluşturabilirsiniz" dedi.

Bu şirketlerden bazıları, yanlış bilgilendirmeyle mücadele etmek için başka yollar bulma konusunda proaktif davrandı. Microsoft, kullanıcıları yapay zeka ses aracının kötüye kullanımını bildirmeye çağıran bir etik beyanı yayınladı. ElevenLabs, sistemi tarafından oluşturulan ses kayıtlarını tespit etmek için kendi tespit araçlarını geliştirdi.

İnsan hakları grubu Freedom House'a göre, Nijerya'nın 2023 seçimleri sırasında, yapay zeka tarafından manipüle edilmiş bir klip sosyal medyada viral oldu ve "muhalefet adayının oylamada hile yapmayı planladığını ima ediyor".

Slovakya'da, muhalefet adayı Michal Šimečka'nın seçimlerde hile yapmayı planladığına dair sahte bir ses kaydı, ülkede Eylül ayında yapılacak cumhurbaşkanlığı seçimlerinden birkaç gün önce sosyal medyada viral oldu.

Kâr amacı gütmeyen tüketici hakları savunuculuğu grubu Public Citizen'ın başkanı Robert Weissman, "New Hampshire deepfake'i, deepfake'lerin kafa karıştırıp hile yapabileceği birçok yolu hatırlatıyor," dedi. "Siyasi deepfake zamanı geldi. Politika yapıcılar, güvenlik önlemleri almak için hızla harekete geçmeli, yoksa seçim kaosuyla karşı karşıya kalacağız."

Mai Anh (FT'ye göre)

[reklam_2]
Kaynak