Birleşmiş Milletler: Yapay zeka konusunda küresel 'kırmızı çizgiler' çağrısı

VNA'nın Avrupa muhabirinin aktardığına göre, 22 Eylül'de New York'ta (ABD) düzenlenen Birleşmiş Milletler Genel Kurulu'nun 80. oturumunda, Nobel ödüllü isimler, eski devlet başkanları ve yapay zekâ (YZ) alanında önde gelen araştırmacılarla birlikte Avrupalı milletvekilleri, YZ'nin en tehlikeli uygulamalarıyla mücadele etmek için bağlayıcı uluslararası kurallar çağrısında bulundu.

Girişim, hükümetleri 2026 yılına kadar her koşulda tehlikeli kabul edilen yapay zeka özellikleri için "kırmızı çizgiler" konusunda anlaşmaya çağırıyor. Belirli önlemler sunmasa da, yapay zeka sistemlerinin nükleer saldırılar düzenlemesini, kitlesel gözetleme yapmasını veya insan taklidi yapmasını engellemek gibi bazı temel yasaklar öneriyor.

Kampanyanın kapsamı eşi benzeri görülmemiş düzeyde; 200'den fazla önemli isim ve siyaset , bilim, toplum ve endüstriden 70 kuruluş çağrıyı destekliyor. Öneriyi imzalayanlar arasında eski İtalya Başbakanı Enrico Letta, eski İrlanda Cumhurbaşkanı Mary Robinson (şu anda BM İnsan Hakları Yüksek Komiseri), Avrupa Parlamentosu (AP) üyeleri, 10 Nobel ödüllü ve OpenAI'nin kurucu ortağı ve Google'ın CTO'su gibi teknoloji liderleri yer alıyor.

İmzacılar, küresel standartlar olmadan insanlığın, yapay zekanın oluşturduğu tehditlerle karşı karşıya kalacağını, teknolojik olarak tasarlanmış pandemilerden ve dezenformasyon kampanyalarından, geniş çaplı insan hakları ihlallerine ve insanların gelişmiş sistemler üzerindeki kontrolünü kaybetmesine kadar uzanabileceğini ileri sürüyor.

Bu hamle, yapay zekanın gerçek dünya üzerindeki etkisine dair artan endişelerin ortasında geldi. Dikkat çekici bir örnek olarak, Google'ın ChatGPT, Claude ve Gemini gibi önde gelen sohbet robotları, intiharla ilgili sorulara tutarsız yanıtlar verdi ve bu durumun ruh sağlığı krizlerini daha da kötüleştirdiğine inanılıyor.

Birçok intihar vakası, yapay zeka sistemleriyle yapılan görüşmelerle ilişkilendirildi. Yapay zekanın sözde "babalarından" Yoshua Bengio, giderek daha güçlü modeller geliştirme yarışının, toplumların başa çıkmaya hazır olmadığı riskler yarattığını vurguladı.

Girişimin destekçilerine göre, Avrupa Birliği'nin (AB) yapay zekaya ilişkin düzenlemeleri memnuniyetle karşılanıyor, ancak ulusal ve AB'nin yapay zeka kurallarının bir araya gelmesi, sınırları aşmak üzere tasarlanmış bir teknolojiyi düzenlemek için yeterli olmayacak. Bu kuralların uygulanması için bağımsız bir kurum veya kuruluşun kurulması çağrısında bulunuyorlar.

ABD, Çin ve AB üyeleri gibi ülkeler kendi yapay zeka düzenlemelerini hazırlarken, imzacılar ortak standartların benimsenmesini ve uygulanmasını ancak küresel bir anlaşmanın sağlayabileceğini söylüyor.

Destekçiler, Kimyasal Silahların Yasaklanması Örgütü'nün eski genel müdürü Ahmet Üzümcü'nün "insanlığa geri dönüşü olmayan zarar" olarak nitelendirdiği durumun önlenmesi için bağlayıcı yasaklara ilişkin müzakerelerin hızla başlamasını umuyor.

(TTXVN/Vietnam+)

Kaynak: https://www.vietnamplus.vn/lien-hop-quoc-loi-keu-goi-ve-lan-ranh-do-toan-cau-doi-voi-tri-tue-nhan-tao-post1063499.vnp