Sorumlu yapay zeka sistemlerini araştırın ve geliştirin.

Bilim ve Teknoloji Bakanlığı'na göre, dünyadaki genel eğilime paralel olarak, yapay zeka sistemlerinin, insanların ve toplulukların karşılaştığı zorlu sorunları destekleyerek ve çözerek insanlara, topluma ve Vietnam ekonomisine büyük faydalar sağlayacağı değerlendirilmektedir. Bu süreçle birlikte, yapay zekanın geliştirilmesi ve kullanımı sürecindeki riskleri en aza indirmek ve ilgili ekonomik, etik ve yasal faktörleri dengelemek için araştırma yapmak ve önlemler almak gerekmektedir. Bu nedenle, uzman kuruluşların, bağlayıcı olmayan düzenlemeler olsa bile, yol gösterici standartlar ve yönergeler araştırmaları ve geliştirmeleri gerekmektedir.

Bilim ve Teknoloji Bakanlığı, sorumlu yapay zekâ sistemlerinin araştırma ve geliştirilmesinde dokuz ilkeyi kılavuzda ortaya koyuyor.

Öncelikle iş birliği ve inovasyon teşviki ruhu: Geliştiricilerin, sistemin faydalarını artırmak için sistemlerin çeşitliliğini göz önünde bulundurarak kendi yapay zeka sistemleri ile diğer yapay zeka sistemleri arasındaki bağlantıyı ve birlikte çalışabilirliği göz önünde bulundurmaları, aynı zamanda riskleri kontrol etmek için koordinasyonu geliştirmeleri gerekir.

İkincisi, şeffaflık: Bu ilkeye uyan yapay zekâ sistemleri, genellikle kullanıcıların veya ilgili üçüncü tarafların yaşamını, bedenini, mahremiyetini veya mal varlığını etkileyebilen sistemlerdir. Bu durumda, geliştiricilerin sistemin girdi ve çıktılarını açıkça tanımlayabilme yeteneğine ve uygulanan teknolojinin özelliklerine ve bunların kullanıcılar da dahil olmak üzere toplumun güvenini sağlamak için nasıl kullanıldığına bağlı olarak açıklanabilirliğe dikkat etmeleri gerekir.

Üçüncüsü, kontrol edilebilirlik: Sistemin kontrol edilebilirliğiyle ilişkili riskleri değerlendirmek için, geliştiricilerin sistemin ilgili teknik gereklilikleri ve standartları karşılayıp karşılamadığına dair bir ön değerlendirme yapmaları gerekir. Risk değerlendirme yöntemlerinden biri, pratik kullanıma sokmadan önce güvenlik ve emniyet önlemlerinin alındığı ayrı bir alanda test yapmaktır.

Dördüncüsü, güvenlik ilkesi: Geliştiricilerin, yapay zekâ sisteminin aracılar da dahil olmak üzere, kullanıcıların veya üçüncü kişilerin canına, bedenine veya malına zarar vermeyeceğinden emin olmaları gerekir.

5. Güvenlik İlkeleri: Geliştiricilerin, dokümanlara, talimatlara uymanın ve öngörülen bilgi güvenliği önlemlerini uygulamanın yanı sıra; sistemin güvenilirliği ve fiziksel saldırılara veya kazalara karşı dayanıklılığı; gizlilik; bütünlük; ve sistemin bilgi güvenliğiyle ilgili gerekli bilgilerin erişilebilirliği gibi noktalara dikkat etmeleri gerekmektedir.

6. Gizlilik: Geliştiriciler, yapay zeka sistemlerinin kullanıcıların veya üçüncü tarafların gizliliğini ihlal etmemesini sağlamalıdır. Gizlilik, mekânsal gizliliği (kişisel yaşamda gönül rahatlığı), bilgi gizliliğini (kişisel veriler) ve iletişimlerin gizliliğini içerir. Geliştiricilerin güncel düzenleme ve yönergeleri uygulaması gerekir; gizlilikle ilgili uluslararası standartlara ve yönergelere başvurulabilir.

Geliştiriciler, gizlilik riskleri ve gizlilik etkileri konusunda ön değerlendirme yapmalıdır. Mümkün olduğunca, sistem geliştirme süreci boyunca uygulanan teknolojinin özelliklerine uygun önlemler alarak, kullanıma sunulduğunda gizlilik ihlallerini önlemelidir.

Yedinci olarak, insan haklarına ve onuruna saygı: İnsanları içeren yapay zekâ sistemleri geliştirirken, geliştiriciler, ilgili bireylerin insan haklarına ve onuruna saygı göstermek için özel özen göstermelidir. Geliştiriciler, uygulanan teknolojinin özelliklerine bağlı olarak, mümkün olduğunca, sistemi eğitirken verilerdeki önyargılardan kaynaklanan ayrımcılık veya adaletsizliğe yol açmamak için önlemler almalıdır.

Geliştiricilerin, Vietnam'ın temel ilkelerine (örneğin vatanseverlik, dayanışma, öz güven, sadakat, dürüstlük, sorumluluk, disiplin, yaratıcılık vb. değerler) göre sistemin insani değerleri ve toplumsal ahlakı ihlal etmemesini sağlamak için önlemler almaları gerekmektedir.

8. Kullanıcı desteği: Kullanıcıları desteklemek için sistem geliştiricilerinin şu noktalara dikkat etmesi gerekir: Kullanıcıların karar almalarına ve rahatça kullanmalarına yardımcı olmak için zamanında ve uygun bilgileri sağlayan hazır arayüzler oluşturmak; toplumdaki savunmasız kişilerin (yaşlılar, engelliler) sistemi daha kolay kullanabilmesini sağlayacak önlemleri uygulamak...

9. Hesap Verebilirlik: Geliştiricilerin, kullanıcı güvenini sağlamak için geliştirdikleri sistemler konusunda hesap verebilir olmaları gerekir. Özellikle, kullanıcılara sistemi seçmelerine ve kullanmalarına yardımcı olacak bilgiler sağlamaları gerekir. Ayrıca, sistemlerin sosyal kabulünü artırmak için geliştiriciler şunları yapmalıdır: Kullanıcılara geliştirdikleri sistemlerin teknik özellikleri, algoritmaları, güvenlik mekanizmaları vb. hakkında bilgi ve açıklamalar sağlamak; paydaşların görüşlerini dinlemek ve onlarla diyalog kurmak.

Kaynak: https://nhandan.vn/nghien-cuu-phat-trien-cac-he-thong-tri-tue-nhan-tao-co-trach-nhiem-post814609.html