Teknoloji sektörü yapay zeka tarafından üretilen görüntüleri tespit etmeye çalışıyor

Truepic CEO'su Jeffrey McGregor, olayın buzdağının sadece görünen kısmı olduğunu söyledi. McGregor, sosyal medyada yapay zeka tarafından üretilen daha fazla içerik olacağını ve buna hazır olmadığımızı söyledi.

CNN'e göre Truepic, Truepic Lens aracılığıyla medyayı oluşturulduğu anda doğruladığını iddia eden bir teknoloji sunarak bu sorunu çözmeyi hedefliyor. Veri toplayan uygulama, kullanıcılara görüntünün oluşturulduğu tarihi, saati, konumu ve cihazı bildirecek ve görüntünün doğal mı yoksa yapay zeka tarafından mı oluşturulduğunu doğrulamak için dijital bir imza uygulayacak.

Pentagon patlamasına ait sahte fotoğraf Twitter'da viral oldu

2015 yılında kurulan Microsoft destekli Truepic şirketi, kendilerine STK'lardan medya şirketlerine kadar pek çok kuruluşun, hatta iddiaların meşruluğunu teyit etmek isteyen sigorta şirketlerinin bile ilgi gösterdiğini söyledi.

McGregor, her şeyin sahtesinin yapılabildiği, yapay zekânın kalite ve erişilebilirlik açısından zirveye ulaştığı bir dönemde, artık internette gerçekliğin ne olduğunu bilmediğimizi söylüyor.

Truepic gibi teknoloji şirketleri yıllardır çevrimiçi yanlış bilgilerle mücadele ediyor. Ancak kullanıcı komutuyla görüntü ve metin üretebilen yeni nesil yapay zeka araçlarının yükselişi, durumu daha da acil hale getirdi. Bu yılın başlarında, Papa Francis'in Balenciaga markalı montuyla ve eski ABD Başkanı Donald Trump'ın tutuklandığı sahte görseller yaygın olarak paylaşıldı. Her iki olay da milyonlarca insanın yapay zekanın potansiyel tehlikeleri konusunda kafasını karıştırdı.

Bazı milletvekilleri, teknoloji şirketlerini yapay zeka tarafından üretilen içerikleri etiketleyerek bu sorunu ele almaya çağırıyor. Avrupa Komisyonu (EC) Başkan Yardımcısı Vera Jourova, Google, Meta, Microsoft ve TikTok gibi şirketlerin dezenformasyonla mücadele konusunda Avrupa Birliği'nin (AB) gönüllü uygulama kurallarına katıldığını söyledi.

Ürünlerinde üretken yapay zekayı uygulayanlar da dahil olmak üzere giderek artan sayıda girişim ve teknoloji devi, insanların bir görüntü veya videonun yapay zeka ile oluşturulup oluşturulmadığını belirlemesine yardımcı olacak standartlar ve çözümler uygulamaya çalışıyor.

Ancak yapay zeka teknolojisi insanların yetişebileceğinden daha hızlı ilerledikçe, bu çözümlerin sorunu tamamen çözüp çözemeyeceği belirsiz. Dall-E ve ChatGPT'nin arkasındaki şirket olan OpenAI bile, yapay zeka tarafından oluşturulan yazıları tespit etmeye yönelik kendi çabalarının kusurlu olduğunu kabul etti.

Çözüm geliştiren şirketler soruna iki yaklaşım benimsiyor. İlk yaklaşım, yapay zeka tarafından oluşturulan görüntüleri çevrimiçi olarak paylaşıldıktan sonra tespit eden programlar geliştirmeye dayanıyor. Diğer yaklaşım ise, bir görüntüyü gerçek veya yapay zeka tarafından oluşturulmuş olarak bir tür dijital imzayla işaretlemeye odaklanıyor.

Reality Defender ve Hive Moderation, ilki üzerinde çalışıyor. Platformları sayesinde kullanıcılar, taranacak görüntüleri yükleyip ardından fotoğrafın gerçek mi yoksa yapay zeka tarafından mı oluşturulduğunu gösteren bir döküm alabiliyor.

Reality Defender, yapay zeka tarafından oluşturulan video, ses ve görüntüleri tespit etmek için tescilli deepfake ve üretken içerik parmak izi teknolojisini kullandığını belirtti. Şirket tarafından sağlanan bir örnekte Reality Defender, Tom Cruise'un %53 oranında "şüpheli" olduğu bir deepfake görüntüsü gösterdi çünkü görüntüdeki kişinin, genellikle manipüle edilmiş fotoğraflarda görülen çarpık bir yüze sahip olması söz konusuydu.

Yapay zeka tarafından oluşturulan etiketli görüntüler

Bu hizmetlerin ücretsiz ve ücretli sürümleri mevcuttur. Hive Moderation, 1.000 fotoğraf başına 1,50 ABD doları ücret aldığını belirtiyor. Realty Defender ise, müşterilerin şirketin uzmanlığına ve desteğine ihtiyaç duyduğu durumlarda fiyatlandırmanın çeşitli faktörlere bağlı olarak değişebileceğini belirtiyor. Reality Defender CEO'su Ben Colman, yapay zeka araçlarını kullanarak herkesin sahte fotoğraflar oluşturabilmesi nedeniyle riskin her ay iki katına çıktığını belirtiyor.

Diğer bazı şirketler de görsellere gerçek mi yoksa yapay zeka tarafından mı üretildiğini onaylayan bir tür etiket eklemek için çalışıyor. Şimdiye kadar bu çabalar büyük ölçüde İçerik Doğruluğu ve Kaynak İttifakı (C2PA) tarafından yönlendirildi.

C2PA, dijital medyanın kökenini ve geçmişini belgelendirmek için teknik bir standart oluşturmak amacıyla 2021 yılında kuruldu. Bu standart, Adobe'nin İçerik Doğrulama Girişimi (CAI) ve Microsoft ile BBC liderliğindeki Project Origin'i birleştirerek, dijital haberlerdeki yanlış bilgilendirmeyle mücadeleye odaklandı. C2PA'ya dahil olan diğer şirketler arasında Truepic, Intel ve Sony bulunmaktadır.

CAI, C2PA ilkelerine dayanarak, şirketlerin görseller hakkında bilgi içeren içerik kimlik bilgileri veya meta veriler oluşturmasına olanak tanıyan açık kaynaklı araçlar yayınlayacak. CAI web sitesine göre bu, içerik oluşturucuların bir görseli nasıl oluşturdukları hakkındaki ayrıntıları şeffaf bir şekilde paylaşmalarına olanak tanıyor. Böylece son kullanıcılar, bir görselin kim tarafından, ne şekilde ve nasıl değiştirildiğine dair bağlamı anlayabilecek ve ardından görselin ne kadar gerçekçi olduğuna kendileri karar verebilecekler.

Birçok şirket, C2PA standardını ve CAI araçlarını uygulamalarına entegre etti. Photoshop'a eklenen yeni bir yapay zeka görüntüleme aracı olan Adobe Firefly, İçerik Kimlik Bilgileri özelliğiyle C2PA standardına uygundur. Microsoft ayrıca, Bing Image Creator ve Microsoft Designer ile oluşturulan görüntü ve videoların önümüzdeki aylarda kriptografik imzalar taşıyacağını duyurdu.

Google, Mayıs ayında kullanıcıların bir görselin Google'da ilk ne zaman göründüğünü ve nerede görülebileceğini görmelerini sağlayan "Bu Görsel Hakkında" özelliğini duyurdu. Arama devi ayrıca, Google yapay zekası tarafından oluşturulan her görselin, başka bir web sitesinde veya platformda bulunması durumunda "bağlam eklemek" için orijinal dosyada bir işaretleme taşıyacağını duyurdu.

Teknoloji şirketleri, yapay zeka tarafından üretilen görseller ve dijital medyanın bütünlüğü konusundaki endişeleri gidermeye çalışırken, alandaki uzmanlar, işletmelerin bu sorunu çözmek için birbirleriyle ve hükümetlerle iş birliği yapması gerektiğini vurguluyor. Ancak teknoloji şirketleri, risklere rağmen yapay zeka geliştirmek için yarışıyor.

Yorum (0)