Avustralya'nın yeni yapay zeka aracı zararlı deepfake görüntüleriyle mücadele ediyor

Sidney'deki bir VNA muhabirine göre, Monash Üniversitesi ve Avustralya Federal Polisi (AFP), suçluların yapay zeka kullanarak zararlı deepfake görüntüler ve çocuk istismarı materyalleri oluşturmasını yavaşlatmak ve engellemek için çığır açan yeni bir Yapay Zeka (YZ) aracı geliştirmek üzere iş birliği yapıyor.

Silverer adlı araç, AFP ve Monash Üniversitesi arasındaki stratejik bir araştırma iş birliği olan ve yapay zekayı karmaşık kolluk kuvvetleri ve güvenlik sorunlarına uygulayan Yapay Zeka Kolluk Kuvvetleri ve Toplum Güvenliği Laboratuvarı'nın (AiLECS) bir ürünüdür. Şu anda pilot aşamasında olan araç, Monash Üniversitesi doktora öğrencisi Elizabeth Perry liderliğinde geliştirilmektedir.

Monash Üniversitesi'ne göre, proje bu yeni araçta temel teknik olarak "Veri Zehirleme" adı verilen bir teknik kullanıyor. Bu teknik, çevrimiçi kaynak verilerinin gizlice değiştirilmesini içeriyor ve bu da Yapay Zehirlenme ve Makine Öğrenimi (ML) modellerinin görüntü veya video oluşturmasını, işlemesini ve kötüye kullanmasını önemli ölçüde zorlaştırıyor.

Yapay zeka araçları büyük miktarda kaynak verisi gerektirdiğinden, veri zehirlenmesi modelin yanlış, çarpık veya bozuk sonuçlar üretmesine neden olur ve bu da suçlular tarafından oluşturulan sahte görsellerin veya videoların tespit edilmesini kolaylaştırır.

Doktora öğrencisi Perry, kullanıcıların Silverer'ı kullanarak görüntüleri sosyal medyaya veya internete yüklemeden önce düzenleyebileceklerini açıklıyor. Bu, pikselleri değiştirerek yapay zeka modelini kandıracak ve çıktıların çarpık, "bozulmalarla" kaplı veya tamamen tanınmaz hale gelmesini sağlayacak.

AiLECS'in eş direktörü ve dijital adli tıp uzmanı Doçent Campbell Wilson, açık kaynak teknolojisi kullanılarak sahte ve kötü amaçlı görsellerin oluşturulmasının, kullanım kolaylığı nedeniyle giderek daha ciddi bir sorun haline geldiğini söyledi.

AFP, suçluların yapay zeka teknolojisini kullanarak büyük miktarda sahte pornografiyi çevrimiçi olarak üretip paylaşmasıyla, yapay zekayla üretilen çocuk istismarı materyallerinde artış olduğunu belgeledi.

Monash Üniversitesi, Silverer projesinin genel amacının, sosyal medyada kişisel verilerini korumak isteyen Avustralyalılar için kullanımı kolay bir teknoloji geliştirmek olduğunu belirtti. Aracın pilot versiyonu şu anda AFP bünyesinde dahili kullanım için değerlendiriliyor.

(TTXVN/Vietnam+)

Kaynak: https://www.vietnamplus.vn/cong-cu-ai-moi-cua-australia-chong-hinh-anh-deepfake-doc-hai-post1076017.vnp