Yapay zeka: Malezya, Grok chatbot operasyonlarını askıya aldı.

Malezya, Elon Musk'ın X Corp şirketine ait xAI tarafından geliştirilen yapay zeka (YZ) aracı Grok chatbot'a erişimi, platformun özellikle kadınların ve çocukların kişisel haklarını ihlal eden pornografik ve saldırgan görüntüler oluşturmak için tekrar tekrar kötüye kullanıldığının tespit edilmesinin ardından geçici olarak askıya aldı.

Malezya İletişim ve Multimedya Komisyonu (MCMC), 11 Ocak'ta yaptığı bir açıklamada, X Corp. ve xAI'nin tekrarlanan uyarılarına tatmin edici düzeltici önlemler gelmemesi üzerine, Grok'a yerel kullanıcılar için derhal erişim kısıtlamaları getirilmesi emrini verdiğini belirtti.

Düzenleyici kuruma göre, doğrudan X sosyal ağına entegre edilmiş olan Grok, yalnızca düz metin komutları aracılığıyla, rıza alınmaksızın pornografik, saldırgan, müstehcen ve manipülatif görüntüler oluşturmak için istismar edildi. MCMC şu vurguyu yaptı: "Sağlayıcıyla işbirliği yapma ve resmi bildirimler gönderme yönündeki tekrarlanan çabalarımıza rağmen, ihlal edilen içerik kadın ve çocuk görüntülerini içeriyordu."

MCMC'ye göre, Grok'un güvenlik önlemleri yetersiz bulundu; çünkü platform, tasarım ve operasyonel aşamalardan itibaren risk kontrolü yerine öncelikle kullanıcıların kendi bildirim mekanizmalarına dayanıyordu.

MCMC'nin açıklamasında şu ifade yer aldı: "X Corp., bu yapay zeka aracının çalışma şeklinden kaynaklanan doğal riskleri yeterince ele alamadı."

Malezya ayrıca, xAI'nin yeni güvenlik önlemlerinin uygulandığını ve etkili olduğunu kanıtlamasının ardından erişimin yeniden sağlanmasını değerlendireceğini belirtti.

Malezya'nın bu kararı, Grok adlı sohbet robotunun görüntü oluşturma aracının kadın ve çocuk görüntülerinin cinselleştirilmesine olanak sağladığının ortaya çıkmasının ardından küresel çapta artan tepkiler arasında geldi ve bu durum yapay zeka tarafından üretilen deepfake (sahte) pornografiye ilişkin ciddi endişeleri artırdı.

Malezya yukarıdaki açıklamayı yapmadan önce, Endonezya Grok'u tamamen yasaklayan ilk ülke olmuştu; diğer birçok pazarda ise bu araç yalnızca ücretli kullanıcılar için çalışıyor.

Avrupalı yetkililere ve teknoloji savunucusu kuruluşlara göre, Grok'un 9 Ocak'ta X platformunda duyurduğu yeni ticari politika olan görüntü oluşturma özelliğini ücretli bir modele geçirmek, sorunun kökünü çözemez.

(VNA/Vietnam+)

Kaynak: https://www.vietnamplus.vn/tri-tue-nhan-tao-malaysia-dinh-chi-hoat-dong-chatbot-grok-post1087863.vnp