Yapay zeka ürünlerinin şeffaflığı

FPT'nin AI'nın çeşitli alanlardaki uygulamalarına ilişkin sergi standı.

Günümüzde görsel, işitsel ve metinsel içerik oluşturmaktan otomatik karar desteğine kadar birçok yapay zeka ürünü etiketlenmeden normal içerik olarak paylaşılıyor. Sonuç olarak, kullanıcılar insan yapımı mı yoksa yapay zeka tarafından mı üretilen içerikle etkileşimde bulunduklarını bilemiyor ve yanlış bilgi veya manipülasyona inanabiliyor.

Örneğin, bir güzellik salonu, yapay zeka tarafından oluşturulmuş bir model görseli içeren bir reklam yayınlayarak müşterilerinin yanlışlıkla gerçek olduğuna inanmasını sağlar, ancak hizmeti deneyimlediklerinde kalitenin reklamdaki gibi olmadığını fark ederler. Daha da tehlikelisi ise, yapay zekanın ünlü kişilerin sahte fotoğraflarını, politikacıların ifadelerini taklit eden videoları veya yapay zeka tarafından oluşturulmuş ancak gerçek kişilerin adlarını içeren makaleler oluşturması ve bu sayede kişisel onur ve kurum ve kuruluşların itibarına zarar vermesidir.

Ayrıca, bir etiketleme mekanizmasının olmaması, kullanıcıların dijital platformlara ve yapay zekâ ürünlerine olan güvenini azaltmaktadır. İçeriğin kaynağı konusunda şeffaf olmayan bir dijital ortam, kullanıcıları şüpheci ve mesafeli hale getirecektir. Bu arada, çoğu Vietnamlı kullanıcının içerik kaynağını belirleme ve doğrulama alışkanlığı yoktur ve yapay zekâ ürünlerini tespit etmek için kullanılan teknik araçlar sınırlıdır.

Şeffaflık ve etiketleme yükümlülüklerinin açıkça tanımlanması, yalnızca teknolojik bir etik gereklilik değil, aynı zamanda yapay zekâ ürünlerinin hem kullanıcılarını hem de geliştiricilerini korumak için yasal bir dayanaktır. Bu gerekliliği karşılamak için Bilim ve Teknoloji Bakanlığı , 12. maddesinde "Şeffaflık, etiketleme ve hesap verebilirlik" ifadesini içeren Yapay Zeka Kanunu'nu geliştirmektedir.

Buna göre etiketleme, içeriğin (metin, resim, ses, video) yapay zeka sistemleri tarafından oluşturulduğunu veya önemli ölçüde değiştirildiğini açıkça, kolayca tanınabilir ve makine tarafından okunabilir bir şekilde bildirmek için teknik önlemlerin uygulanmasıdır. Bu bildirim, içerik yaygın olarak yayınlandığında yapılmalıdır.

Bu düzenleme, yapay zeka tarafından oluşturulan veya düzenlenen ürünler için zorunlu etiketleme yükümlülükleri getirerek dijital alanı şeffaf hale getirmeyi, tüketicileri korumayı ve etiketleme yapılmamasının karışıklığa veya hasara yol açması halinde tedarikçilerin ve dağıtımcıların ortak sorumluluk üstlenmesini sağlamayı amaçlıyor.

Gerçek kişileri, nesneleri, yerleri veya olayları simüle eden içerikler için Taslak Kanun, sağlayıcıların, içeriğin yapay zekâ tarafından oluşturulduğunu açıkça tespit etmek ve kaynağını doğrulama ve izleme olanağı sağlamak için önlemler almalarını şart koşmaktadır. Bu, Avrupa Birliği (AB), Amerika Birleşik Devletleri, Japonya ve Güney Kore'nin benzer düzenlemeler yayınladığı uluslararası eğilimlerle uyumlu olarak, yapay zekâ teknolojisinin yönetiminde önemli bir adım olarak kabul edilmektedir.

Gereklilik konusunda hemfikir olmalarına rağmen, birçok uzman ve işletme, Taslak Kanun'daki etiketleme düzenlemelerinin daha spesifik olması gerektiğine inanıyor. Vietnam Ticari Hukuk Limited Şirketi (Lexcomm Vietnam LLC) Avukat Hoang Le Quan, yapay zeka sağlayıcılarının etiketleme biçimine kendilerinin mi karar verebileceğini yoksa Hükümetin talimatlarını mı takip etmek zorunda olduklarının açıklığa kavuşturulması gerektiğine inanıyor.

Eğer yönergeler varsa, bunların açık olması ve uluslararası standartlarla uyum sağlaması, Vietnam'ın gereksinimlerinin tamamen farklı olmasını veya özellikle çokuluslu tedarikçiler için yeni yükümlülükler yaratmasını önlemesi ve böylece Vietnam'ın yapay zeka uygulamaları ve geliştirme alanındaki rekabet gücünü Avrupa Birliği (AB), Güney Kore veya Amerika Birleşik Devletleri gibi diğer pazarlara kıyasla etkilememesi gerekir.

Bazı görüşler, yapay zeka unsurları içeren tüm içeriklerin mi, yoksa yalnızca yapay zeka tarafından oluşturulan veya önemli ölçüde müdahale edilen ürünlerin mi etiketlenmesi gerektiği, uygulama kapsamı ve düzeyinin açıkça tanımlanması gerektiğini vurgulamaktadır. Vietnam Hukuk Medya Anonim Şirketi (LuatVietnam.vn) Direktörü Bay Tran Van Tri, içeriğin yalnızca küçük bir kısmında yapay zekanın kullanıldığı durumlarda etiketlenmesinin gerekli olup olmadığını sordu. Yapay zeka destekli bir yaratım mı yoksa tamamen yapay zeka tarafından mı yaratıldığı açıkça belirtilmelidir.

Eğlence sektöründe bazı şirketler, yapay zeka ürünlerini katı etiketleme yükümlülüklerinden muaf tutmak ve bunun yerine kullanım düzeyine bağlı olarak uyarılar veya şeffaf bir öz bildirim uygulamak için esnek bir mekanizma istiyor. Yapay zeka, ses, görüntü ve efektleri iyileştirmek için yaygın olarak kullanılıyor. Hepsinin etiketlenmesi gerekseydi, maliyetler ve prosedürler artacak ve yaratıcılığı engelleyecekti.

Bilim ve Teknoloji Bakanlığı Başkanı, Yapay Zeka Kanun Tasarısı'nın yönetim ve geliştirme teşviki arasında makul bir denge kurma, şeffaflık, uygulanabilirlik ve uluslararası standartlara yaklaşma doğrultusunda hazırlandığını belirtti. Etiketlemenin amacı, insan yapımı içerik ile makine yapımı içerik arasındaki sınırı netleştirmek, gevşek yönetim veya aşırı sıkılaştırma gibi iki uç noktadan kaçınmak ve böylece teknolojinin şeffaf ve sorumlu bir çerçevede geliştirilmesini sağlamaktır.

HA LINH

Kaynak: https://nhandan.vn/minh-bach-hoa-san-pham-tri-tue-nhan-tao-post920112.html