Bay Lam'a göre, Yapay zekanın, bilgiyi sahtekarlık yapmak, manipüle etmek, dolandırmak ve toplumsal bölünmeye neden olmak için kullanılması; emeğin yerini alması ve eşitsizliği artırması; kültürel ve entelektüel değerleri çarpıtması; ulusal güvenliği, savunmayı ve dijital egemenliği tehdit etmesi gibi çok gerçek ve mevcut riskler bulunmaktadır.
En endişe verici şey , Bay Lam korku Yapay zekanın insan emriyle ne yaptığı değil, insan kontrolü dışında ne yapabildiği önemlidir. Bilimsel bakış açısıyla, bir gün yapay zeka kendi hedeflerini belirler, görevleri insan çıkarlarıyla uyuşmayan bir şekilde yorumlar ve hatta insanları "risk" olarak görürse ne olur? İnsanları optimizasyon algoritmasında sadece "değişkenler" olarak gören süper zeki bir sistem ortaya çıkabilir mi?
Bay Lam , " Yapay zekanın insanlara hükmettiği bilim kurgu hikayeleri bizi korkutmak için değil, herhangi bir yapay gelişmenin, en başından itibaren sağlam etik değerlerle tasarlanmazsa asıl amacına ihanet edebileceğini hatırlatmak içindir. Ve tarih, kontrolden çıkan herhangi bir teknolojinin, insanlığın ağır bedeller ödemesi gereken sonuçlara yol açabileceğini kanıtlamıştır ," dedi.
Bu riskler, yapay zekanın toplum için doğru yönde ve güvenli bir şekilde gelişmesi için yeterince güçlü bir yasal çerçevenin oluşturulmasının aciliyetini göstermektedir. Öyleyse Yasayı gerçekten eksiksiz ve vizyoner kılmak için Bay Lam önemli bir ekleme önerdi: Yapay Zeka'yı "yeni doğmuş bir insan" olarak düşünün. Zekalı bir varlık ama yine de masum . Hukuk bilmemek, etik ve görgü kurallarını anlamamak, kültürel değerlere sahip olmamak, doğruyu yanlıştan ayırt edememek (öğretilmezse). Bunu akılda tutarak, yapay zekayı gelişmekte olan bir varlık olarak ele aldığımızda, sorumluluğumuz onu sadece kontrol etmek değil, aynı zamanda tıpkı bir çocuğa standart insan değerlerini öğrettiği gibi, onu en başından itibaren öğretmektir. Ve bu, bu Kanun'da sadece bir tavsiye değil, zorunlu bir hüküm olmalıdır.
İtibaren Orası, Bay Lam, Ulusal Meclis'in bu Kanuna aşağıdaki hukuki ilkeleri eklemesini önerdi: Vietnam'da faaliyet gösteren tüm yapay zeka yazılımları, ister yerli ister yabancı kuruluşlar tarafından geliştirilmiş olsun, standart bir insan temel veritabanıyla donatılmalıdır. Bu veritabanı, yapay zekaya Vietnam yasalarını anlamayı öğretmek; yapay zekaya ülkenin etik standartlarını, kültürünü ve iyi geleneklerini öğretmek; yapay zekaya doğruyu yanlıştan, standartı standarttan ayırt etme yeteneğini öğretmek için yeterli bilgi içermelidir. Davranışsal sınırlar, insanlar için riskleri belirleme kurallarını aşmamalıdır. Ve en önemlisi, bu temel veritabanının yapay zeka davranışlarını yönetmede her zaman mutlak önceliğe sahip olduğundan emin olun; başka bir algoritma veya eğitim verisi tarafından üzerine yazılmamalı, değiştirilmemeli veya devre dışı bırakılmamalıdır. Bu, yapay zekanın yoldan çıkmamasını sağlayan yasal ve teknik "altın halka"dır.
Bu yönelimi etkili bir şekilde uygulamak için Bay Lam, Bilim ve Teknoloji Bakanlığı'nın birleşik, standartlaştırılmış ve sürekli güncellenen bir "Vietnamlı Olmak" veritabanı platformu oluşturmada öncülük etmesini ve bunu yapay zeka geliştiricilerine zorunlu bir gereklilik olarak sunmasını önerdi. Hükümet, Vietnam yapay zekasının yabancı modellere bağımlı olmadan, Vietnam değerlerine göre eğitilmesini sağlamak için güçlü bir ulusal bilgi işlem altyapısı geliştirmelidir. Sapkın davranışları derhal değerlendirmek, yüksek riskli modelleri kontrol etmek ve sınırların aşıldığına dair işaretler olduğunda derhal müdahale etmek için bir Ulusal Yapay Zeka Test Merkezi kurulmalıdır. Yapay zeka eğitimini toplum genelinde yaygınlaştırılmalı ve insanların, işletmelerin ve özellikle kamu sektörünün yapay zekayı doğru bir şekilde tanımlama, kullanma ve izleme kapasitesine sahip olmasına yardımcı olunmalıdır.
Aynı zamanda, dünyaya baktığımızda, insanlık yapay zekâ çağına çok hızlı bir şekilde girerken, küresel yasal çerçeve henüz bu çağa ayak uyduramadı. Hanoi Siber Suç Önleme Sözleşmesi'ne benzer şekilde, dünyanın ortak standartlar oluşturmak, risklerin kontrolden çıkmasını önlemek ve yapay zekâ gelişimi karşısında insan haklarını korumak için uluslararası bir Yapay Zeka Güvenliği Sözleşmesi'ne ihtiyacı olacak. Proaktif, temkinli ve insani bir vizyonla, Vietnam bu girişimi önerme ve yönetme konusunda kesinlikle öncü olabilir.
Lam, "Bugünkü Yapay Zeka Yasası sadece bir teknoloji yasası değil, aynı zamanda geleceğin yasasıdır; Ulusal Meclis'in halka olan bağlılığıdır: Teknoloji geliştiriyoruz ama kontrolü kaybetmiyoruz; inovasyonu teşvik ediyoruz ama risklerin erişimimizin ötesine geçmesine izin vermiyoruz; ve Vietnam halkına hizmet etmek için Vietnam değerleriyle yapay zekayı besliyoruz" dedi.
Kaynak: https://daidoanket.vn/hay-coi-ai-nhu-mot-con-nguoi-moi-sinh-va-day-ai-nhu-mot-dua-tre.html
Yorum (0)