Yapay zekanın kişisel görüntüleri manipüle etme riski

Yapay zekanın (YZ) gelişimi, yalnızca dünya çapındaki sanatçıların işlerini tehdit etmekle kalmıyor, aynı zamanda internet kullanıcılarını da görüntülerinin çeşitli şekillerde manipüle edilmesi riskiyle karşı karşıya bırakıyor.

Các công cụ AI dễ dàng tạo ra các sản phẩm công nghệ giả. (Ảnh minh họa)

Yapay zeka araçları kolayca sahte teknoloji ürünleri üretiyor. (İllüstrasyon fotoğrafı)

"Deepfake çağı"

Öte yandan, yapay zeka, yanlış ellere geçtiğinde, bireylerin sosyal medya hesaplarından görüntüleri kolayca çalabilir ve bunları istenmeyen referanslara dönüştürebilir. Örneğin, pornografik web siteleri, bireylerin görüntülerini rızaları olmadan kullanabilir.

Massachusetts Teknoloji Enstitüsü'nde araştırmacı olan Hadi Salman, "Deepfake çağındayız," dedi. "Artık herkes, insanların yapmadıkları bir şeyi 'yapmasını' sağlamak için görüntüleri ve videoları manipüle edebiliyor."

Deepfake, "derin öğrenme" ve "sahte" kelimelerinin birleşiminden oluşan, yapay zekayı kullanarak ses, görüntü veya hatta video şeklinde sahte teknoloji ürünleri yaratma yöntemidir.

Yapay zeka, sadece birkaç saniye içinde, birkaç basit komutla "kötü adamların" istediği herhangi bir görüntüyü oluşturabilir. Örneğin, biri yapay zekadan Papa'nın Balenciaga paltosu giymiş bir fotoğrafını oluşturmasını ve fotoğrafın sahte olduğu ortaya çıkmadan önce internette yayınlamasını isteyebilir.

Yapay zeka teknolojisi, belirli bir sanatçının tarzında sanat eserleri yaratma yeteneğiyle de kullanıcıları hayrete düşürdü. Örneğin, ünlü ressam Vincent Van Gogh'un tarzında çizilmiş gibi görünen bir kedi resmi yaratabilirsiniz.

Görsel sanatçılar için bu araçlar, yapay zeka modelleri onların benzersiz stillerini taklit edip izinleri olmadan sanat eserleri yarattıkları için işlerini kaybetme riski taşıyor.

Yapay Zeka Destek Araçları

Almanya'nın Stuttgart kentinde yaşayan Eveline Fröhlich, yapay zekanın aşırı etkilerine karşı mücadele eden ve görsel eserlerini çevrimiçi manipülasyondan korumanın yollarını arayan giderek artan sayıda sanatçıdan biri.

Bayan Fröhlich, yakın zamanda Chicago Üniversitesi'ndeki (ABD) bilgisayar bilimcileri tarafından yapay zeka modellerinin kötüye kullanılmasını önlemek için geliştirilen Glaze adlı bir araçtan haberdar oldu.

Chicago Üniversitesi'nde bilgisayar bilimleri profesörü ve Project Glaze'in baş araştırmacılarından Ben Zhao, CNN'e yaptığı açıklamada, aracın sanatçıların benzersiz çalışmalarını yapay zeka eğitim birimlerinden korumayı amaçladığını söyledi.

Glaze yazılımı, makine öğrenme algoritmalarını kullanarak dijital görsellerde çıplak gözle görülmeyen küçük değişiklikler yapıyor, ancak çevrimiçi ortamda eser için koruyucu bir katman oluşturarak yapay zeka modellerini kandırıyor ve yazarın stilini kopyalamasını engelliyor.

Glaze sayesinde sanat eserleri "görünmezlikle kaplanıyor" ve yapay zekanın görüntüyü "okuması" engelleniyor.

Örneğin, Bay Zhao'nun açıkladığına göre, bir sanatçı kendi yağlı boya tablosunun görüntüsünü yükleyip Glaze'den geçirebilirdi. Yapay zekâ modelleri tabloyu "okuduğunda", onu bir kömür çizimi olarak görürken, bir insan bunu anında yağlı boya olarak tanırdı. Glaze'den geçirdikten sonra, sanat eseri artık yapay zekânın gözlerine önemli ölçüde farklı görünürdü.

Zhao'nun ekibi, Glaze'in ilk sürümünü geçen Mart ayında yayınladı ve bir milyondan fazla indirme sayısına ulaştı. Ekip, geçen hafta Glaze'in ücretsiz bir sürümünü çevrimiçi olarak yayınladı.

Ekip, Glaze aracının, belirli düzenlemeler ve yasalar oluşturulana kadar sanatçıların telif haklarının korunmasına yardımcı olacağını umuyor.

Bay Zhao, Glaze'i tanıttığından beri seslendirme sanatçıları, romancılar, müzisyenler ve gazetecilerin kendi alanlarına uygun bir Glaze versiyonu hakkında bilgi almak için ekibine ulaşmalarında artış olduğunu söyledi.

Kaliforniyalı görsel sanatçı Jon Lam, çevrimiçi sanat eserlerinin yapay zeka modellerini eğitmek için kullanılmasını önlemek amacıyla Glaze aracını kullanıyor ve artık çevrimiçi paylaştığı tüm sanat eserleri için uygulamayı kullandığını söylüyor.

Yıllardır onun gibi sanatçılar, gurur duydukları için eserlerini tam çözünürlükte çevrimiçi olarak yayınlıyorlar, dedi. "İnsanların tam HD fotoğrafların ne kadar ayrıntılı ve muhteşem olduğunu görmelerini istiyoruz. Ancak sanatçılar, eserlerinin yapay zeka modelleri tarafından 'tüketilebileceğini' ve ardından stillerini kopyalayıp onları haksız rekabete maruz bırakabileceğini bilmiyorlar."

"Artık insanların yüksek çözünürlüklü çalışmalarımızı alıp yapay zeka makinelerine yükleyerek bizimle aynı alanda rekabet ettiklerini biliyoruz. Bu yüzden daha dikkatli olmalı ve kendimizi nasıl koruyacağımızı düşünmeye başlamalıyız." dedi.

Salman ve ekibi, görüntüleri yapay zekadan korumak için yeni bir araç daha yayınladı. PhotoGuard adlı uygulama, kullanıcıların yapay zeka modellerinin görüntüleri manipüle etmesini önlemek için görüntülerin üzerine görünmez bir koruma katmanı yerleştirmelerine olanak tanıyor.

Salman, PhotoGuard'ın amacının, sahipleri tarafından çevrimiçi olarak yüklenen fotoğrafları "kötü niyetli yapay zeka manipülasyonundan" korumak olduğunu söyledi.

PhotoGuard uygulaması, bir görüntünün piksellerini insanların fark edemeyeceği şekilde ayarlayarak çalışır. Ancak çıplak gözle fark edilemeyen bu değişiklik, yapay zeka modellerinin görüntüyü manipüle etme girişimlerini dikkatlice engelleyecek kadar güçlüdür.

Salman, bunun, birisinin PhotoGuard tarafından korunan bir fotoğrafı yapay zeka kullanarak düzenlemeye çalışması durumunda ortaya çıkan fotoğrafın "hiç de gerçekçi olmayacağı" anlamına geldiğini açıkladı.

Lisanslı değil

Konunun diğer tarafında ise, yapay zeka araçları görüntüleri alıp işlese bile, yarattıkları şeyin telif hakkı kapsamında değerlendirilmediği görülüyor.

Yapay zekâ, ortaya çıkışı ve yaygınlaşmasından bu yana bir tartışmayı da alevlendirdi: Bu eserler telif hakkına tabi mi? Eğer öyleyse, kime aitler?

ABD Telif Hakları Ofisi (USCO), bu çalışmalar hakkında resmi bir karar verdi. USCO'ya göre, yapay zeka tarafından komutlara dayalı olarak oluşturulan hiçbir görüntü (Midjourney, Dall-E ve Stable Diffusion gibi mevcut uygulamalar gibi) ABD'de telif hakkına tabi olmayacak.

ABD yasaları, fikri mülkiyetin yalnızca insan yaratıcılığının ürünü olması durumunda telif hakkıyla korunabileceğini belirtir. USCO şu anda yalnızca insanlar tarafından yaratılan eserleri tanımaktadır. Bu nedenle, yapay zekâ makineleri eser sahibi olarak kabul edilmeyecek ve yarattıkları ürünler telif hakkıyla korunmayacaktır.

USCO Direktörü Shira Perlmutter, "Bir eserdeki geleneksel telif hakkı unsurları bir makine tarafından yaratılmışsa, o zaman eser bir insan tarafından telif hakkına sahip değildir ve USCO bunu tescil etmez" dedi.

[reklam_2]
Kaynak