Google: Gemini yapay zeka yazılımı, sahte terörist içerik oluşturmak için kötüye kullanılıyor.

Google, Avustralya yetkililerine gönderdiği bir açıklamada, geçtiğimiz yıl boyunca yapay zekâ (YZ) yazılımı Gemini'nin sahte terörist veya şiddet içeren aşırılıkçı içerik oluşturmak için kullanılmasıyla ilgili dünya çapında 258 şikayet aldığını ve Gemini'nin çocuk istismarı içerikli içerik üretmek için kötüye kullanıldığı konusunda 86 kullanıcı raporu aldığını belirtti.

Avustralya Elektronik Güvenlik Komisyonu (ESSC), Google'ın raporunun, kullanıcıların kötü amaçlı ve yasa dışı içerik oluşturmak için teknolojiyi nasıl kötüye kullanabileceğine dair dünyada bir ilk bilgi sağladığını değerlendirdi.

Siber Güvenlik Komisyonu Üyesi Julie Inman Grant, bunun, yapay zeka ürünleri geliştiren şirketlerin zararlı ve sahte içerik üretimini önlemek için güvenlik önlemleri oluşturmasının ve bunların etkinliğini test etmesinin önemini vurguladığını belirtti.

Google, Gemini tarafından oluşturulan çocuk istismarı içeriklerini tespit edip kaldırmak için, yeni yüklenen görselleri bilinen görsellerle eşleştiren otomatik bir sistem olan eşleştirme özelliğini kullandı. Ancak Avustralya Elektronik Güvenlik Komisyonu, Google'ın Gemini tarafından oluşturulan terörist veya şiddet içeren aşırılıkçı içerikleri kaldırmak için aynı sistemi kullanmadığını belirtti.

Mevcut Avustralya yasalarına göre, teknoloji şirketleri, zararı azaltma çabalarına ilişkin bilgileri düzenli olarak Elektronik Güvenlik Komisyonu'na (ESC) sunmak zorundadır; aksi takdirde cezalarla karşı karşıya kalırlar.

En son olarak, şirketlerden Nisan 2023 ile Şubat 2024 arasındaki döneme ilişkin bilgileri bu komisyona bildirmeleri istendi. Avustralya Elektronik Güvenlik Komisyonu, raporlama eksiklikleri nedeniyle Telegram ve Twitter'a (daha sonra X olarak yeniden adlandırıldı) para cezası verdi.

X, 610.500 Avustralya doları (382.000 ABD doları) tutarındaki para cezasına bir kez itiraz etmişti, ancak sosyal medya platformunun tekrar itiraz etmesi bekleniyor. Telegram da kanala verilen para cezasına itiraz etmeyi planlıyor.

ABD merkezli OpenAI şirketinin "sansasyonel" sohbet robotu ChatGPT'nin 2022 sonlarında kamuoyunda büyük yankı uyandırmasından bu yana, dünyanın dört bir yanındaki düzenleyici kurumlar, kötü niyetli kişilerin yapay zekayı terörizmi kışkırtmak, dolandırıcılık yapmak, sahte pornografik içerik oluşturmak ve diğer kötüye kullanım faaliyetlerinde bulunmak için kötüye kullanmasını önlemek amacıyla daha etkili önlemler alınması çağrısında bulundu.

Kaynak: https://nhandan.vn/google-phan-mem-ai-gemini-bi-lam-dung-de-tao-noi-dung-khung-bo-gia-mao-post863325.html