Yapay zekanın iletişim ve reklamcılıkta kullanılmasına yönelik tekliflerin açıkça etiketlenmesi ve duyurulması gerekiyor.

Yapay zeka sistemlerinin dört risk seviyesine sınıflandırılması

21 Kasım sabahı, Yapay Zeka Yasa Tasarısı'nın görüşülmesine ilişkin sunum ve rapor TBMM'de dinlendi.

Raporu sunan Bilim ve Teknoloji Bakanı Nguyen Manh Hung, yasa tasarısının yapay zeka için çığır açıcı bir hukuk koridoru oluşturmak, inovasyonu teşvik etmek, ulusal rekabet gücünü artırmak ve aynı zamanda riskleri yönetmek, ulusal çıkarları, insan haklarını ve dijital egemenliği korumak için uygun bir hukuki ortam yaratmak amacıyla hazırlandığını söyledi.

Đề xuất dùng AI để truyền thông, quảng cáo phải dán nhãn, thông báo rõ - Ảnh 1. — *Raporu Bilim ve Teknoloji Bakanı Nguyen Manh Hung sundu.*

Yapay zekâ sistemlerinin düzenlenmesi için yasa tasarısında risk temelli bir yönetim yaklaşımı benimsenmiş, yapay zekâ dört seviyeye ayrılmış ve buna bağlı yükümlülükler getirilmiştir.

Yapay zeka sistemleri dört risk seviyesine göre sınıflandırılır: Kabul edilemez risk: Sistemin ciddi, telafisi mümkün olmayan zararlara yol açma potansiyeli vardır.

Yüksek risk, yaşam, sağlık, haklar ve meşru menfaatlere zarar verebilecek sistemlerdir; orta risk, kullanıcıları şaşırtma, manipüle etme veya aldatma riski taşıyan sistemlerdir. Düşük risk ise geri kalan durumlardır.

Tedarikçi, dolaşıma girmeden önce sistemi kendi kendine sınıflandırmalıdır ve sınıflandırma sonuçlarından sorumludur.

Orta ve yüksek riskli sistemler için tedarikçi, Tek Nokta Portalı aracılığıyla Bilim ve Teknoloji Bakanlığı'na bildirimde bulunmalıdır. Yetkili makam, sınıflandırmayı gözden geçirme ve yeniden değerlendirme hakkına sahiptir.

Kanun, şeffaflık, etiketleme ve hesap verebilirlik sorumluluğunu öngörmektedir. Uygulayıcı taraf, özellikle sahte öğelerle oluşturulan veya düzenlenen, yanlış anlaşılmalara yol açabilecek gerçek kişileri taklit eden (deepfake) veya yapay zeka tarafından iletişim ve reklam amaçlı oluşturulan içerikleri açıkça bilgilendirmeli ve etiketlemelidir.

Tedarikçiler ve uygulayıcılar, etkilenen tarafların talebi üzerine yüksek riskli sistem kullanımının sonuçlarını açıklamalıdır.

Herhangi bir olay durumunda, taraflar sistemi derhal düzeltmek, askıya almak veya geri çekmek ve Tek Nokta Portalı üzerinden raporlamakla yükümlüdür. Risk yönetimi amaçları doğrultusunda, kabul edilemez riskler söz konusu olduğunda, bu sistemlerin herhangi bir şekilde geliştirilmesi, tedarik edilmesi, konuşlandırılması veya kullanılması yasaktır.

Yasaklı liste, kanunen yasak olan fiillerde kullanılan, aldatma, manipüle etme ve ciddi zararlara yol açma amacıyla sahte unsurlar kullanan, savunmasız grupların (çocuklar, yaşlılar vb.) zaaflarından yararlanan veya ulusal güvenliğe ciddi zararlar veren sahte içerik üreten sistemleri kapsamaktadır.

Yüksek riskli sistemlerde, yüksek riskli sistemin dolaşıma sokulmasından veya kullanıma alınmasından önce uygunluğunun değerlendirilmesi gerekir.

Değerlendirme, uygunluğun belgelendirilmesi (akredite bir kuruluş tarafından gerçekleştirilir) veya uygunluğun gözetimi (tedarikçinin kendi kendine değerlendirmesi) şeklinde olabilir.

Başbakan, her değerlendirme biçimine karşılık gelen yüksek riskli yapay zekâ sistemlerinin listesini belirler.

Tedarikçi (risk yönetimi önlemlerinin oluşturulması, eğitim verilerinin yönetilmesi, teknik dokümantasyonun hazırlanması, insan gözetiminin sağlanması) ve uygulayıcı (amaçlanan amaç doğrultusunda faaliyet gösterilmesi, güvenliğin sağlanması, şeffaflık yükümlülüklerinin yerine getirilmesi) için detaylı yükümlülükler belirlenmiştir.

Yüksek riskli sistemlere sahip yabancı tedarikçilerin Vietnam'da yetkili bir temsilcisinin bulunması ve sistemin zorunlu uygunluk sertifikasyonuna tabi olması durumunda Vietnam'da tüzel kişilik kurması gerekmektedir.

Orta, düşük riskli ve çok amaçlı modeller için orta risk sisteminin şeffaflığı ve etiketlemeyi sağlaması gerekir.

Taslak ayrıca, genel amaçlı yapay zekâ modellerinin geliştiricilerinin ve kullanıcılarının Vietnam yasalarına uyumu sağlama sorumluluklarını da belirlemektedir. Sistemik risk (geniş kapsamlı etki potansiyeli) içeren GPAI modelleri için, etki değerlendirmesi, teknik kayıt tutma ve Bilim ve Teknoloji Bakanlığı'na bildirim gibi daha kapsamlı yükümlülükler uygulanmaktadır.

Ancak, açık kaynaklı genel amaçlı yapay zeka modelleri bu gelişmiş yükümlülüklerden muaftır; bir yapay zeka sistemini geliştirmek için açık kaynaklı bir model kullanıldığında, kullanan kuruluş bu sistemin risk yönetimini üstlenmelidir.

Maliyetleri azaltmak için görünmez etiketleme kullanmayı düşünün

Bilim, Teknoloji ve Çevre Komitesi Başkanı Nguyen Thanh Hai, inceleme açısından, Komitenin, yapay zeka ürünlerinin etiketlenmesinin, yapay zeka çağında güven oluşturmak için bağlayıcı bir etik ve yasal sorumluluk olduğunu tespit ettiğini söyledi.

Đề xuất dùng AI để truyền thông, quảng cáo phải dán nhãn, thông báo rõ - Ảnh 2. — *Bilim, Teknoloji ve Çevre Komitesi Başkanı Nguyen Thanh Hai.*

Taslak Kanun'daki etiketleme hükümlerine temelde katılmakla birlikte Komite, Vietnam'ın pratik koşullarına uygunluğun sağlanması için yapay zeka ile üretilen ürünlere ilişkin uluslararası deneyimlere başvurulmasını öneriyor.

Yapay zeka uygulamalarına sahip ürün ve donanım aygıtları (örneğin buzdolapları, televizyonlar, çamaşır makineleri vb.) için, maliyetleri ve prosedürleri azaltırken yönetim ve izlenebilirliği sağlamak amacıyla görünmez filigran uygulamasının araştırılması ve değerlendirilmesi önerilir.

Aynı zamanda, Kanun Tasarısı'nda Hükümet'in formlar, teknik standartlar ve muafiyetler konusunda ayrıntılı talimatlar vermesine ilişkin esasların belirlenmesi öneriliyor.

Etiketleme yönetmeliğinin zorunludan tavsiye edilene, asgari teknik rehberlikle değiştirilmesi önerisi var.

Aynı zamanda, bir dizi alanda gönüllü etiketleme mekanizmasının pilot uygulamasının yapılması, aynı zamanda "etiket yoksa yapay zeka ürünü de yok" şeklindeki yanlış anlaşılmanın önüne geçilmesi için iletişimin güçlendirilmesi gerekiyor.

Risk sınıflandırmasına ilişkin olarak Komite, Ürün ve Mal Kalitesi Kanunu'nda ürün ve malların üç türe ayrılmasına karşın dörtlü sınıflandırmanın, YZ'nin ürün ve mal olarak değerlendirilmesi durumunda tutarsız olduğu görüşündedir.

Yüksek riskli yapay zekâ sistemlerine ilişkin uygunluk belgelendirmesine ilişkin düzenlemeler, Ürün ve Mal Kalitesi Kanunu'nda öngörülen yüksek riskli ürün ve malların yönetimine ilişkin ilkelerle örtüşmemektedir.

Yorum (0)