Yapay zekanın "kırmızı çizgisi" sıkılaştırılıyor: Vietnam, insan taklidi teknolojisinin yasaklanmasını öneriyor

Deepfake teknolojisindeki patlama ve yapay zekânın (YZ) dolandırıcılık amacıyla kullanılma riski karşısında, Hükümet, insan taklidi yapabilen YZ sistemlerinin tamamen yasaklanmasını önerdi. Bu, dijital çağda yasal engellerin oluşturulması, insan haklarının korunması ve güvenliğin sağlanması için atılmış bir adımdır.

51. Dönem Toplantısı programını hayata geçiren Ulusal Meclis Başkanı Tran Thanh Man başkanlığında ve Ulusal Meclis Başkan Yardımcısı Le Minh Hoan yönetimindeki Ulusal Meclis Daimi Komitesi, 17 Kasım akşamı AI Hukuku projesi hakkında görüş bildirdi.

Oturuma Genel Bakış.

Bilim ve Teknoloji Bakanı (MOST) Nguyen Manh Hung, Yapay Zeka Yasası projesini Ulusal Meclis Daimi Komitesi'ne sunarken, Yasa projesinin ilk kez "kabul edilemez risklere sahip yapay zeka sistemi" kavramını ortaya koyduğunu söyledi.

Bakan Nguyen Manh Hung'a göre, "kabul edilemez risklere sahip yapay zeka sistemleri", insan haklarına, ulusal güvenliğe, toplumsal düzene ciddi ve telafisi mümkün olmayan zararlar verme potansiyeline sahip veya yasalarca yasaklanmış eylemleri gerçekleştirmek üzere tasarlanmış sistemlerdir. Kontrol edilemeyen bir tehlike seviyesiyle, bu sistem grubunun Vietnam'da herhangi bir şekilde geliştirilmesi, tedarik edilmesi, konuşlandırılması ve kullanılması yasaklanacaktır.

Taslakta, yasaklanmış davranışlara hizmet etmek üzere tasarlanmış sistemler, sahte unsurlar kullanarak veya gerçek kişileri ve olayları taklit ederek kasıtlı olarak algı ve davranışları manipüle etmek, kullanıcıların haklarına ciddi zarar vermek, savunmasız grupların zaaflarından yararlanmak, ulusal güvenlik, toplumsal düzen ve emniyet açısından yüksek risk oluşturan sahte içerikler oluşturmak veya yaymak gibi tanımlayıcı işaretler yer alıyor.

Rapora göre, yapay zekânın hızla gelişmesi yeni güvenlik risklerine yol açıyor. Özellikle deepfake'in sahte haber, iftira, dolandırıcılık, kamu güvenini zedeleme ve toplumsal istikrarsızlık yaratma amacıyla kullanılabilecek bir araç olduğu uyarısı yapılıyor. Yapay zekâ kullanan otonom silah sistemleri, dünyanın hâlâ çözüm bulmakta zorlandığı bir dizi etik ve yasal zorluk da ortaya çıkarıyor. Bu arada, mevcut yasalar denetime ayak uyduramadığından yönetim açığı giderek büyüyor. Bu nedenle, hem riskleri kontrol altına almak hem de Vietnam'da yapay zekâ araştırma ve uygulamalarını teşvik etmek için ayrı bir yapay zekâ yasasının çıkarılması acil bir gerekliliktir.

Bakan Nguyen Manh Hung, yasa tasarısının amacının, yapay zekânın güvenli, sorumlu bir şekilde ve insanlık için geliştirilmesini sağlamak üzere birleşik bir yasal çerçeve oluşturmak olduğunu söyledi. Yapay zekâ, ulusal entelektüel altyapı, üretkenlik artışı, inovasyon ve teknolojik özerkliğin ve ulusal rekabet gücünün artırılması için itici güç olarak tanımlanıyor.

Bilim ve Teknoloji Bakanı Nguyen Manh Hung toplantıda konuşuyor.

Yapay Zeka Kanunu Taslağı, 8 bölüm ve 36 maddeden oluşmakta olup, insan odaklı yapay zeka geliştirme politikasını vurgulamakta ve Devletin yönetim ve geliştirme rolünü açıklığa kavuşturmaktadır. Kanun, şeffaf, güvenli, kontrollü ve hesap verebilir bir yapay zeka uygulamasını güvence altına alan, güvenliği, emniyeti, veri egemenliğini ve ulusal teknoloji rezerv haklarını koruyan risk odaklı bir yönetim mekanizması kurmaktadır.

Taslak yasa ayrıca, yapay zekâ sistemlerinin zararsız, tarafsız ve insani değerlere saygılı olmasını; caydırıcılık sağlamak ve toplumsal güveni güçlendirmek için ihlalleri izleme, denetleme ve ele alma mekanizmasına sahip olmasını şart koşuyor. Hükümet, yapay zekâ geliştirmeye katılan araştırma enstitüleri, işletmeler ve bireyler için araştırma, yatırım ve eğitimi destekleyecek mekanizmalar aracılığıyla inovasyon ekosistemini destekleyecek ve yüksek kaliteli insan kaynakları geliştirecektir.

Ulusal Meclis Bilim, Teknoloji ve Çevre Komisyonu, taslak politikaya temelde katılmakla birlikte, yapay zekayı risk düzeylerine göre sınıflandırmak için nicel veya nitel kriterlerin netleştirilmesini de önerdi. İnceleme kurumu, kolluk kuvvetlerinde caydırıcılığı ve tutarlılığı artırmak için, sahtecilik yapmak, insan onuruna hakaret etmek, siyasi huzursuzluk yaratmak, seçimleri manipüle etmek veya ulusal güvenliği ihlal etmek amacıyla deepfake içerikler oluşturmak için yapay zekanın kullanımının yasaklanması gibi yasaklı eylemlerin eklenmesini önerdi.

Plana göre Hükümet, Yapay Zeka Yasası taslağını 21 Kasım'da Ulusal Meclis'e sunacak; delegeler 27 Kasım'da meclis salonunda tartışacak. Tasarının, Vietnam'da yapay zekanın geliştirilmesi için "yasal bir işletim sistemi" haline gelmesi, inovasyonun önünü açması ve insanları yeni nesil teknolojiden korumak için gerekli sınırları belirlemesi bekleniyor.

Bilim ve Teknoloji İletişim Merkezi

Kaynak: https://mst.gov.vn/siet-chat-lan-ranh-do-cua-ai-viet-nam-de-xuat-cam-cong-nghe-gia-mao-con-nguoi-197251117221425816.htm