27 Kasım öğleden sonra, Ulusal Meclis Başkan Yardımcısı Le Minh Hoan'ın başkanlığında Ulusal Meclis, Yapay Zeka Yasa Tasarısı'nı görüştü.
Tazminat ve sigorta sorumluluğuna ilişkin düzenlemelerin eksikliği
Yapay zekanın geliştirilmesi için kontrollü test mekanizmasına ilişkin yasa tasarısının 20. maddesiyle ilgili olarak, Ulusal Meclis üyesi Hoang Minh Hieu ( Nghe An ), yapay zeka (YZ) için kontrollü test mekanizmasının temel amacının, YZ modellerinin önündeki yasal engelleri kaldırmak, sınırlı testlerin etkinliğini kanıtlamak için veri elde etmesine olanak tanımak ve böylece uzun vadeli düzenleyici reformları teşvik etmek olduğunu belirtti. Bu yaklaşım, kurumların kalkınmanın önünü açmak için önce harekete geçmesi gerektiği yönündeki mevcut yasal düşüncemizle de oldukça tutarlıdır.
Delege, yapay zekaya ilişkin yasal çerçevenin, kontrollü test mekanizmalarına ilişkin düzenlemelere odaklanması gerektiğini, bu nedenle yasa tasarısını hazırlayan kurumun bu konuyu daha ayrıntılı bir şekilde araştırıp düzenlemesi gerektiğini vurguladı.
Buna göre, delege, kontrollü araştırmalara katılan kuruluş ve kişilerin muaf tutulmasına veya Kanun Tasarısı'nın 20. maddesinin 2. fıkrasında öngörülen bazı uyum yükümlülüklerinin azaltılmasına ilişkin düzenlemelerin gözden geçirilmesini önerdi. Bu tür düzenlemeler, muafiyet kapsamının bu Kanun hükümleriyle sınırlı kalmasına yol açarken, yapay zekâ sistemleri genellikle diğer birçok ilgili yasal hükümle ilişkilendirilmektedir.
Delegeler, havacılık güvenliğinin sağlanmasına ilişkin bazı kurallardan muaf tutulan Japonya'daki otonom yolcu uçaklarında yapay zeka test mekanizmasına atıfta bulundu. Çin ve Japonya'da otonom araçların test edilmesinin ise, trafikteki kişilerin yüzlerini bulanıklaştırmadan görüntü verilerini kullanarak yapay zekanın görüşünü eğitmek ve geliştirmek için Kişisel Verilerin Korunması Kanunu hükümlerinden muaf tutulmasına dikkat çekti.
Diğer ülkelerin deneyimlerinden yola çıkarak, delegeler, çalışmayı hazırlayan kuruluşun, sadece 20. maddenin 2. fıkrasında, kontrollü araştırmalara katılan kuruluş ve kişilerin bu Kanun ve diğer ilgili mevzuatta öngörülen bazı uyum yükümlülüklerinden muaf tutulacağı veya azaltılacağı yönünde bir hüküm koymasını önermişlerdir.
Madde 5, Madde 20, AI'daki devlet yönetim ajansına, değerlendirme ve hızlı yanıt sürecine göre kontrollü test faaliyetlerine katılmak üzere dosyaların alınmasını, değerlendirilmesini ve işlenmesini organize etme görevini verir.
Temsilci Hoang Minh Hieu, yapay zekâ sistemlerinin yalnızca teknoloji ve algoritmalarla ilgili konular olmadığını, aynı zamanda çok disiplinli ve disiplinler arası konular olduğunu belirtti. Bu nedenle, 5. Madde'deki hükümler muhtemelen yalnızca üretken yapay zekâ (ChatGPT, Gemini) gibi genel amaçlı yapay zekâ sistemleri için uygundur. Uzmanlaşmış yapay zekâ sistemlerinde ise disiplinler arasılık çok yüksektir.
VinBrain tarafından geliştirilen tıbbi görüntülü tanıyı destekleyen bir yapay zeka ürünü olan DrAid sistemine atıfta bulunan delege Hoang Minh Hieu, sistemin test için kayıtlı olması durumunda Sağlık Bakanlığı'nın izleme ve yönetim rolünü üstlenmemesinin imkansız olduğunu söyledi. Bu nedenle, bazı ülkelerde yapay zeka sistemlerinin kontrollü testlerinin değerlendirilmesi ve lisanslanması disiplinlerarası bir konseye atanıyor.
Temsilciler, Kanun Tasarısı'nın 20'nci maddesinin 5'inci fıkrasında yer alan hükümlerin, "Yapay zeka konusunda devlet yönetim ajansı, kontrollü test faaliyetlerine katılmak üzere başvuruların alınması, değerlendirilmesi ve işlenmesini organize etmek üzere ilgili devlet yönetim ajanslarına başkanlık eder ve onlarla koordinasyon sağlar" yönünde revize edilmesini önerdi.
Delege ayrıca, Taslak Kanun'un 20. maddesindeki hükümlerin tazminat ve sigorta sorumluluklarına ilişkin hâlâ hüküm içermediğini belirtti. Ayrıca, testin üçüncü bir şahsa zarar vermesi durumunda kimin sorumlu olacağından da bahsedilmiyor. Genel ilkeye göre, test kuruluşu veya kişi zarara sebep olursa hukuki tazminat ödemek zorunda kalacak. Bu nedenle Delege Hoang Minh Hieu, bu hükmün Taslak Kanun'a eklenmesinin değerlendirilmesini önerdi.
Vietnam'da faaliyet gösteren tüm yapay zeka yazılımlarının " standart insan benzeri bir temel veritabanı " ile donatılması gerekiyor
Ulusal Meclis Milletvekili Tran Van Lam (Bac Ninh), insanı merkeze koyma ilkesini tanımlayan, riskleri sınıflandırıp kontrol eden, yüksek riskli yapay zekâ sistemlerini denetleyen ve ulusal bilgi işlem ve veri altyapısı geliştiren yasa tasarısını büyük bir memnuniyetle karşıladı. Bu, uluslararası eğilimlerle uyumlu, ilerici bir yasal çerçevedir.
Ancak, Yasa'yı gerçekten eksiksiz kılmak ve uzun vadeli bir vizyona sahip olmak için delege önemli bir ekleme önerdi: Yapay Zeka'yı "yeni doğmuş bir insan" olarak düşünün. "Zeki ama masum bir varlık": Yasayı bilmeyen, etik ve görgü kurallarını anlamayan, kültürel değerleri olmayan ve öğretilmediği sürece doğruyu yanlıştan ayırt edemeyen bir varlık.
"Yapay zekayı yeni ortaya çıkan bir varlık olarak ele alırsak, sorumluluğumuz onu sadece kontrol etmek değil, aynı zamanda bir çocuğa standart insan değerlerini öğretmek gibi, onu en başından itibaren öğretmektir. Ve bu, bu Yasa'da sadece bir tavsiye değil, zorunlu bir hüküm olmalıdır," dedi delege Tran Van Lam.
Delegeler, Ulusal Meclis'in Yasa'ya şu hukuki ilkeyi eklemesini önerdi: "Vietnam'da faaliyet gösteren tüm yapay zeka yazılımları, ister yerli ister yabancı kuruluşlar tarafından geliştirilmiş olsun, standart bir insan veritabanıyla donatılmalıdır."
Temsilciye göre, "standart insan temel veritabanı", yapay zekaya Vietnam yasalarını anlamayı öğretmek; yapay zekaya ülkenin etik standartlarını, kültürünü ve iyi geleneklerini öğretmek; yapay zekaya doğru ve yanlışı, standart ve standart dışıyı ayırt etme becerisini; aşılmaması gereken davranış sınırlarını ve insanlar için riskleri belirleme kurallarını öğretmek için yeterli bilgi içermelidir. Ve en önemlisi, bu temel veritabanının yapay zeka davranışını yönetmede her zaman mutlak önceliğe sahip olmasını sağlamalıdır; başka hiçbir algoritma veya eğitim verisi tarafından üzerine yazılmamalı, değiştirilmemeli veya devre dışı bırakılmamalıdır. Bu, yapay zekanın yoldan çıkmamasını sağlayan yasal ve teknik "altın halka" dır.
Bu oryantasyonu etkili bir şekilde uygulamak için delegeler, Bilim ve Teknoloji Bakanlığı'nın birleşik, standartlaştırılmış ve sürekli güncellenen bir "Vietnamlı Olmak" veritabanı platformu oluşturmada öncülük etmesini ve bunu yapay zeka geliştiricilerine zorunlu bir gereklilik olarak sunmasını önerdi. Hükümet, Vietnamlı yapay zekanın yabancı modellere bağımlı olmadan, Vietnam değerlerine göre eğitilmesini sağlamak için güçlü bir ulusal bilgi işlem altyapısı geliştirmelidir.
Aynı zamanda, anormal davranışları hızla değerlendirmek, yüksek riskli modelleri kontrol altına almak ve sınırların aşıldığına dair işaretler olduğunda derhal müdahale etmek için bir Ulusal Yapay Zeka Test Merkezi kurun. Toplum genelinde yapay zeka eğitimini teşvik edin ve insanların, işletmelerin ve özellikle kamu sektörünün yapay zekayı doğru bir şekilde tanımlama, kullanma ve izleme kapasitesine sahip olmalarına yardımcı olmaya odaklanın.
Temsilci Tran Van Lam, "Bugünün Yapay Zeka Yasası sadece bir teknoloji yasası değil, aynı zamanda geleceğin yasasıdır; Ulusal Meclis'in halka olan bağlılığıdır. Teknolojiyi geliştiriyoruz ama kontrolü kaybetmiyoruz; inovasyonu teşvik ediyoruz ama risklerin erişimimizin ötesine geçmesine izin vermiyoruz. Ve Vietnam halkına hizmet etmek için Vietnam değerleriyle yapay zekayı besliyoruz." dedi.
Kaynak: https://daibieunhandan.vn/phat-trien-cong-nghe-thuc-day-doi-moi-nhung-khong-de-rui-ro-vuot-tam-10397378.html
Yorum (0)