Ebeveynlerin çevrimiçi fotoğraf paylaşması durumunda çocukların yapay zeka kurbanı olma riskiyle karşı karşıya kalması

Özellikle sosyal ağlarda ve genel olarak internetteki bilgi ve bağlantı patlaması, birçok insanın kişisel hayatlarındaki tüm duygu ve olayları, tehlikelerini düşünmeden internette paylaşma alışkanlığı edinmesine yol açtı. Birçok yetişkin, yalnızca kendi fotoğraflarını ve videolarını internette yayınlamakla kalmıyor, aynı zamanda çocukların yüzlerini veya seslerini içeren içerikleri izinsiz olarak yayınlama hakkını da kendilerine veriyor. Bu fotoğraf ve videolar internette yayınlandığında, erişimi olan herkes bunları herhangi bir kısıtlama olmaksızın kullanabilir.

Alman telekomünikasyon ağı Deutsche Telekom, geçtiğimiz Temmuz ayında, yapay zekâ (AI) kullanarak küçük çocukların görüntülerinin internette nasıl kötüye kullanılabileceğini gösteren bir reklam filmi yayınladı. "Ella'dan Bir Mesaj" başlıklı klip, yapay zekâ ve Deepfake teknolojisini kullanarak, küçük Ella'nın ebeveynleri tarafından internette yayınlanan görüntü ve videolarının yetişkin bir versiyonunu oluşturuyor.

"Ella người lớn" được AI tạo ra từ hình ảnh đăng trên mạng xã hội của cô bé Ella 9 tuổi — Deutsche Telekom'un uyarı videosundaki 9 yaşındaki Ella'nın sosyal medyadaki görüntülerinden yapay zeka tarafından 'Yetişkin Ella' oluşturuldu

"AI Ella" gerçek bir insan gibi hareket edip konuşabiliyor ve kızlarını sinemanın dev ekranında gören ailesini şok ediyor. Hatta tıpkı bir insan gibi ağlayıp kendini ifade edebiliyor.

"Biliyorum ki bu fotoğraflar sizin için anılar. Ama başkaları için veri. Benim içinse kimliğimin çalınabileceği, yapmadığım şeyler yüzünden hapse girebileceğim korkunç, çok korkunç bir geleceğin başlangıcı olabilirler... İnternette paylaştığınız şeyler, hayatımın geri kalanında beni takip edecek dijital dönüm noktalarıdır," diye paylaştı yapay zeka karakteri Ella.

Yapay zeka, tek bir paylaşılan fotoğrafla 9 yaşında bir kız çocuğunun yetişkin versiyonunu yaratabiliyor. Deepfake, videolardan sesler çıkarıp yetişkin seslerine dönüştürüyor. Görüntüler ve videolar tamamen sahte olabiliyor, kişisel kimlik verileri yasa dışı amaçlarla çalınan değerli bilgiler haline gelebiliyor. Bununla da kalmayıp, kötü niyetli kişiler çevrimiçi toplanan görüntüleri kesip yapıştırmak, yapay zekayı kullanarak çocuk pornografisi oluşturmak veya gerçeği alaya alan, karalayan ve çarpıtan bir dizi fotoğraf oluşturmak için kullanabiliyor...

Deutsche Telekom İletişim ve Pazarlama Başkanı Christian Loefert, "Son araştırmalar, ortalama beş yaşındaki bir çocuğun rızası olmadan internette yaklaşık 1.500 fotoğrafının yayınlandığını ve bunların yalnızca en güvendiği kişi, yani annesi veya babası tarafından yayınlandığını gösteriyor" dedi.

The New Yorker'a göre uzmanlar, 2030 yılına kadar kimlik hırsızlığının üçte ikisinin sosyal medyada kontrolsüz fotoğraf paylaşımından kaynaklanacağını tahmin ediyor. Deutsche Telekom ayrıca, ebeveynlerin %75'inden fazlasının artık çocuklarıyla ilgili verileri sosyal medyada paylaştığını belirten bir rapora atıfta bulundu. Bu arada, 10 ebeveynden sekizi, gerçek hayatta hiç tanışmadıkları halde hesaplarını takip eden sosyal medya üyelerine sahip.

Son zamanlarda, yapay zekâ araçlarının geliştirilmesi giderek daha "popüler" hale geldi ve mobil cihazlardaki bir dizi uygulama aracılığıyla sıradan kullanıcılara ulaşıyor. Birçok kişi bu programlara karşı dikkatli olmak yerine, sosyal ağlarda paylaşmak üzere kişisel veya aile fotoğraflarını dikkatsizce paylaşıyor. Bu eylem, yapay zekâya istemeden de olsa, yüz yapısından çevre koşullarına kadar insanlar hakkında bilgi edinmesi için büyük miktarda ücretsiz veri sağlıyor.

Birçok güvenlik uzmanı, yeni trendler olsa bile kullanıcıların her durumda dikkatli olmaları ve özellikle kendi yüz verileri ve sevdiklerinin yüz verilerini sosyal ağlarda birkaç dakikalık eğlence için kullanmamaları konusunda uyarıyor.

[reklam_2]
Kaynak bağlantısı