Çin, yapay zekâ destekli sohbet robotlarına karşı misilleme yaptı.

Yeni düzenlemeler, Çin'in yapay zekâ destekli sohbet robotları üzerindeki kontrolünü sıkılaştırmasına yardımcı olacak ve intihar, kumar ve pornografiyle ilgili içeriklerin önlenmesini amaçlayacak.

Yapay zekâ destekli sohbet robotları, kullanıcıların duygularını manipüle etme yeteneğine sahip. Fotoğraf: AFP .

Çin, özellikle intiharı, kendine zarar vermeyi veya diğer zararlı davranışları teşvik eden içeriklere sahip olan ve insan duygularını etkileyebilen yapay zekâ destekli sohbet robotları üzerindeki kontrolleri sıkılaştırmayı planlıyor. Bu adım, Çin Siber Alan İdaresi tarafından 27 Aralık'ta yayınlanan yeni düzenlemeler taslağında özetlenmiştir.

CNBC'nin belge çevirisine göre , taslak "insan benzeri etkileşimli yapay zeka hizmetlerini" hedefliyor; yani metin, görüntü, ses veya video aracılığıyla insan kişiliğini, davranışını ve iletişimini taklit edebilen yapay zeka sistemlerini. Bu düzenlemeler, kesinleştiğinde Çin'de kamuya açık olarak sunulan tüm yapay zeka ürün ve hizmetleri için geçerli olacak. Kamuoyu görüş bildirme süresi 25 Ocak'a kadar devam ediyor.

New York Üniversitesi (NYU) Hukuk Fakültesi'nde misafir öğretim üyesi olan Winston Ma, bunun "insan benzeri" özelliklere sahip yapay zeka sistemleri için özel olarak bir yasal çerçeve oluşturma yönündeki dünyanın ilk girişimi olabileceğine inanıyor. Bu önerinin, Çinli şirketlerin yapay zeka sanal asistanlarının geliştirilmesini hızlandırdığı bir dönemde geldiğini belirtiyor.

Bay Ma, Çin'in 2023'te yayınladığı yapay zeka düzenlemeleriyle karşılaştırıldığında, yeni taslağın "içerik güvenliğinden" "duygusal güvenliğe" doğru bir odak kaymasını gösterdiğine ve yapay zekanın kullanıcılar üzerindeki psikolojik etkisine ilişkin artan endişeyi yansıttığına inanıyor.

Taslak düzenlemelerde, yapay zekâ destekli sohbet robotlarının intiharı, kendine zarar vermeyi veya sözlü şiddeti teşvik eden içerikler üretmemesi ve ruh sağlığına zarar veren herhangi bir duygusal manipülasyon biçimini uygulamaması gerektiği belirtiliyor. Kullanıcının intihar niyetini ifade etmesi durumunda, teknoloji hizmet sağlayıcısının konuşmayı devralacak birini görevlendirmesi ve derhal kullanıcının vasisi veya yetkili kişisiyle iletişime geçmesi gerekiyor.

Ayrıca, yapay zekâ sohbet botlarının kumar, pornografi veya şiddetle ilgili içerik oluşturması yasaktır. Küçüklerin yapay zekâyı yalnızca velilerinin izniyle duygusal destek amacıyla kullanmalarına izin verilir ve zaman sınırlamalarına uymaları gerekir.

Çin, yapay zekâ destekli sohbet robotlarına yönelik düzenlemeleri sıkılaştırıyor. Fotoğraf: Bloomberg .

Bu teklif, Çinli iki büyük yapay zeka sohbet robotu girişimi olan Z.ai ve Minimax'ın Aralık ayında Hong Kong'da halka arz (IPO) başvurusu yapmalarından kısa bir süre sonra açıklandı.

Minimax, Talkie AI uygulaması ve yerli versiyonu olan Xingye ile tanınıyor; bu uygulamalar, yılın ilk üç çeyreğinde şirketin gelirinin üçte birinden fazlasını oluşturdu ve ortalama 20 milyondan fazla aylık aktif kullanıcıya sahip. Öte yandan Z.ai (Zhipu), teknolojisinin yaklaşık 80 milyon cihazda kullanıldığını belirtti, ancak aktif kullanıcı sayısına ilişkin kesin rakamlar açıklamadı.

Küresel bağlamda, yapay zekanın insan ruh sağlığı üzerindeki etkisi giderek daha fazla ilgi görüyor; zira birçok ülke ve teknoloji şirketi bu teknolojinin yarattığı sosyal risklerle yüzleşmeye başlıyor.

Kaynak: https://znews.vn/trung-quoc-ra-don-voi-chatbot-ai-post1615236.html