Birleşmiş Milletler: Yapay zekâ için küresel bir "kırmızı çizgi" çağrısı.

Vietnam Haber Ajansı'nın Avrupa muhabirinin bildirdiğine göre, 22 Eylül'de New York'ta (ABD) düzenlenen Birleşmiş Milletler Genel Kurulu'nun 80. oturumunda, Avrupalı milletvekilleri, Nobel ödüllü bilim insanları, eski devlet başkanları ve önde gelen yapay zeka (YZ) araştırmacıları, YZ'nin en tehlikeli uygulamalarıyla mücadele etmek için bağlayıcı uluslararası kurallar getirilmesi çağrısında bulundular.

Bu girişim, hükümetleri 2026 yılına kadar her koşulda tehlikeli kabul edilen yapay zeka özelliklerine ilişkin "kırmızı çizgiler" konusunda anlaşmaya varmaya çağırıyor. Belirli önlemler sunmasa da, girişim yapay zeka sistemlerinin nükleer saldırı başlatmasını, kitlesel gözetim yapmasını veya insan kılığına bürünmesini engellemek gibi bazı temel yasaklar öneriyor.

Kampanyanın kapsamı emsalsiz; siyaset , bilim, sosyal ve endüstri alanlarından 200'den fazla önde gelen isim ve 70 kuruluş çağrıyı destekliyor. Teklifi imzalayanlar arasında eski İtalyan Başbakanı Enrico Letta, eski İrlanda Cumhurbaşkanı Mary Robinson (şu anda BM İnsan Hakları Yüksek Komiseri), Avrupa Parlamentosu (AP) üyeleri, 10 Nobel ödüllü bilim insanı ve OpenAI'nin kurucu ortağı ve Google'ın baş teknoloji sorumlusu gibi teknoloji liderleri yer alıyor.

İmza sahipleri, küresel standartlar olmadan insanlığın yapay zekanın yarattığı tehditlerle karşı karşıya kalma riski taşıdığını, bu tehditlerin teknoloji kaynaklı pandemilerden ve dezenformasyon kampanyalarından büyük ölçekli insan hakları ihlallerine ve gelişmiş sistemler üzerindeki insan kontrolünün kaybına kadar uzandığını belirtiyor.

Bu adım, yapay zekanın gerçek dünya üzerindeki etkisine ilişkin artan endişelerin ortasında atılıyor. Bunun en önemli örneklerinden biri, Google'ın ChatGPT'si, Claude ve Gemini gibi önde gelen sohbet robotlarının intiharla ilgili sorulara tutarsız yanıtlar vermesi ve potansiyel olarak ruh sağlığı krizlerini daha da kötüleştirmesidir.

Yapay zekâ sistemleriyle yapılan konuşmalarla bağlantılı birçok intihar vakası yaşandı. Yapay zekânın "babalarından" biri olarak kabul edilen Yoshua Bengio, giderek daha güçlü modeller geliştirme yarışının, toplumların yeterince hazırlıklı olmadığı riskler yarattığını vurguluyor.

Girişimin savunucularına göre, Avrupa Birliği'nin (AB) yapay zekâya ilişkin düzenlemeleri memnuniyetle karşılanıyor, ancak ulusal ve AB yapay zekâ kurallarının parça parça bir araya getirilmesi, sınırları aşmak üzere tasarlanmış bir teknolojiyi düzenlemek için yeterli olmayacaktır. Bu kuralları uygulamak için bağımsız bir kurum veya kuruluşun kurulmasını talep ediyorlar.

ABD, Çin ve AB üyesi ülkeler kendi yapay zeka düzenlemelerini hazırlarken, imza sahipleri yalnızca küresel bir anlaşmanın ortak standartların benimsenmesini ve uygulanmasını sağlayabileceğini savunuyor.

Destekçiler, Kimyasal Silahların Yasaklanması Örgütü'nün eski Genel Direktörü Ahmet Üzümcü'nün "insanlığa geri dönüşü olmayan zarar" olarak tanımladığı durumun önlenmesi için bağlayıcı yasaklar konusunda müzakerelerin hızla başlayabileceğini umuyor.

(VNA/Vietnam+)

Kaynak: https://www.vietnamplus.vn/lien-hop-quoc-loi-keu-goi-ve-lan-ranh-do-toan-cau-doi-voi-tri-tue-nhan-tao-post1063499.vnp