Yapay zeka tarafından üretilen çocuk istismarı içeriğine ilişkin binlerce rapor

Son aylarda çocuk güvenliği uzmanları ve araştırmacılar, yaratıcı yapay zekanın çevrimiçi istismarı daha da kötüleştirebileceği konusunda uyarıda bulundu.

Meta CEO'su Mark Zuckerberg, 31 Ocak 2024'te yapay zeka tarafından oluşturulmuş görseller taşıyan bir kalabalığın önünde ABD Senatosu Yargı Komitesi duruşmasında konuşuyor. Fotoğraf: Reuters

NCMEC, 2023 yılında aldığı tüm kaynaklardan çocuk istismarı içerikli bildirimlerin toplam sayısını henüz açıklamadı. Ancak 2022 yılında sorunla ilgili yaklaşık 88,3 milyon dosya bildirimi aldı.

NCMEC Başkan Yardımcısı John Shehan, "Yenilikçi yapay zeka şirketlerinden, (çevrimiçi) platformlardan ve halktan raporlar alıyoruz" dedi.

Meta, X, TikTok, Snap ve Discord'un CEO'ları, Çarşamba günü (31 Ocak) ABD Senatosu'nda çevrimiçi platformlarda çocuk güvenliğiyle ilgili bir duruşmada ifade verdi. ABD milletvekilleri, sosyal medya şirketlerine çocukları "çevrimiçi avcılardan" koruma çabaları hakkında soru sordu.

Stanford İnternet Gözlemevi'ndeki araştırmacılar, geçen Haziran ayında yayınladıkları raporda, kötü niyetli kişilerin yapay zekayı, gerçek hayattaki çocuklara tekrar tekrar zarar vermek için, onların sahte görüntülerini oluşturarak kullanabileceğini söyledi.

Çevrimiçi çocuk istismarı ihbarlarını alan NCMEC'in CyberTipline Direktörü Fallon McNulty, yapay zeka tarafından üretilen içeriklerin "gittikçe daha fotogerçekçi" hale geldiğini ve bu durumun kurbanların gerçek insanlar olup olmadığını belirlemeyi zorlaştırdığını söyledi.

McNulty, ChatGPT'yi oluşturan şirket olan OpenAI'nin, NCMEC'e rapor sunmak için bir süreç oluşturduğunu ve kuruluşun diğer yapay zeka şirketleriyle görüşmelerde bulunduğunu söyledi.

Hoang Hai (Reuters, FT'ye göre)

Kaynak: https://www.congluan.vn/my-hang-nghin-bao-cao-ve-noi-dung-lam-dung-tre-em-do-ai-tao-ra-post283237.html