ByteDance geliştirme ekibine göre, OmniHuman-1 adı verilen çok modlu model, karakterlerin konuştuğu, şarkı söylediği ve hareket ettiği dinamik videoları "mevcut video oluşturma yöntemlerine kıyasla üstün kalitede" oluşturabiliyor.

Gerçekçi görüntüler, videolar ve sesler üreten yapay zeka teknolojisi, diğer adıyla "deepfake", dolandırıcılık ve eğlence sektöründe giderek daha fazla kullanılmaktadır.

ByteDance şu anda Çin'deki en gözde yapay zeka şirketlerinden biri. Şirketin Doubao uygulaması ise Çin anakarasındaki kullanıcılar arasında en popüler uygulama.

OmniHuman-1 henüz geniş çapta kamuoyuna sunulmamış olsa da, örnek videoları hızla yaygınlaştı.

Öne çıkan demo örneklerinden biri, Albert Einstein'ın bir konuşma yaparken gösterildiği 23 saniyelik bir videoydu. TechCrunch, uygulamanın ürettiği videoları "şaşırtıcı derecede muhteşem" ve "bugüne kadarki en gerçekçi deepfake videoları" olarak nitelendirdi.

Geliştiriciler, OmniHuman-1'in herhangi bir uzunlukta video oluşturmak için referans veri olarak tek bir görüntüye ve konuşma veya şarkı söyleme gibi ses verilerine ihtiyaç duyduğunu söylüyor.

Çıktı videosunun kare hızı ayarlanabildiği gibi, içindeki karakterlerin "vücut oranları" da ayarlanabilir.

d6a434e5a4dc974582b09c05b3646092afcf9490.jpeg
ByteDance şu anda Çin'in en önde gelen yapay zeka şirketlerinden biri. Fotoğraf: TechCrunch

Dahası, yayınlanmamış kaynaklardan elde edilen 19.000 saatlik video içeriği üzerinde eğitilen yapay zeka modeli, mevcut videoları düzenleyebiliyor ve hatta insan el ve ayak hareketlerini inandırıcı bir şekilde değiştirebiliyor.

Ancak ByteDance, OmniHuman-1'in mükemmel olmadığını, bazı pozlarda hala zorlandığını ve "düşük kaliteli referans görüntülerinin" en iyi videoyu üretmeyeceğini de kabul etti.

ByteDance'in yeni yapay zeka modeli, Washington'un teknoloji ihracatını kısıtlama çabalarına rağmen Çin'in kaydettiği ilerlemeyi gösteriyor.

Endişeler

Geçtiğimiz yıl, siyasi deepfake videoları dünya çapında yayıldı. Moldova'da, deepfake videoları ülkenin cumhurbaşkanı Maia Sandu'nun istifa konuşmasını taklit etti.

Güney Afrika'da ise, ülkedeki seçimler öncesinde rapçi Eminem'in Güney Afrika muhalefet partisini desteklediğini gösteren bir deepfake videosu viral oldu.

Deepfake teknolojisi, finansal suçlar işlemek için de giderek daha fazla kullanılıyor. Tüketiciler, ünlülerin yatırım tavsiyelerinde bulunduğu ve sahte yatırım fırsatları sunduğu deepfake videolarıyla dolandırılırken, şirketler de üst düzey yöneticilerin taklitçileri yüzünden milyonlarca dolar kaybediyor.

Deloitte'a göre, yapay zeka tarafından üretilen içerik, 2023 yılında 12 milyar dolardan fazla dolandırıcılık kaybına yol açtı ve bu rakam ABD'de 2027 yılına kadar 40 milyar dolara ulaşabilir.

Geçtiğimiz Şubat ayında, yapay zeka topluluğundan yüzlerce kişi deepfake'lere ilişkin daha sıkı düzenlemeler getirilmesi çağrısında bulunan bir mektup imzaladı. ABD'de deepfake'leri suç sayan federal bir yasa olmamasına rağmen, 10'dan fazla eyalet yapay zeka destekli sahteciliğe karşı yasalar çıkardı.

Ancak deepfake'leri tespit etmek kolay değil. Bazı sosyal medya platformları ve arama motorları yayılmalarını sınırlamak için önlemler almış olsa da, çevrimiçi deepfake içerik miktarı endişe verici bir hızla artmaya devam ediyor.

Kimlik doğrulama şirketi Jumio'nun Mayıs 2024'te yaptığı bir ankette, katılımcıların %60'ı son bir yılda deepfake ile karşılaştığını bildirdi; katılımcıların %72'si deepfake'ler tarafından günlük olarak kandırılmaktan endişe duyduğunu belirtirken, çoğunluk yapay zeka tarafından üretilen sahte videoların yaygınlaşmasıyla mücadele etmek için yasa çıkarılmasını destekledi.

Google, yapay zekanın silah ve gözetleme teknolojilerinde kullanımına 'yeşil ışık yaktı' . Google, silah ve gözetleme teknolojilerinde kullanılmak üzere yapay zeka araçları tasarlayıp dağıtmayacağına dair verdiği sözü bozdu.