Teknolojinin etik sınırları aşmasını engelleyin.

Yapay zekanın etik dışı amaçlarla giderek daha fazla kullanılması, teknoloji kontrolü ve kullanıcı sorumluluğunun artırılması ihtiyacını acil hale getirmiştir.

Hızlı ilerlemesiyle yapay zekâ (YZ), sağlık, eğitim , iş dünyası ve günlük yaşam gibi birçok alanda devrim yaratıyor. Ancak bu teknolojinin dezavantajları, siber alanda bilgi yönetimi ve kontrolü konusunda önemli zorluklar ortaya çıkarıyor.

Yapay zekâ tarafından üretilen sahte haberlerle dolup taşmış durumda.

Yapay zekâ tarafından üretilen sahte haberler, öncelikle çevrimiçi satışlar için görüntülenme, beğeni ve etkileşim elde etmek veya platformdan kar sağlamak amacıyla sosyal medya platformlarında yayılıyor.

Sahte haber üretenler genellikle kamuoyunun dikkatini çeken güncel olaylardan faydalanırlar. Örneğin, 17 Eylül'de Quang Tri eyaleti, Lao Bao beldesi, Tan Long pazarında meydana gelen ve 12 kişinin ölümüne yol açan ciddi trafik kazasının ardından, sosyal medyada yürek burkan görüntüler ortaya çıktı ve birçok izleyiciyi gözyaşlarına boğdu. Bu görüntülerin yapay zeka tarafından oluşturulduğunu tespit eden Lao Bao beldesi polisi, bu yanıltıcı sahte görüntülerin yayılması konusunda uyarıda bulundu. Bu davranış sadece yanlış bilgi yaymakla kalmıyor, aynı zamanda soruşturmaları da engelliyor.

Benzer şekilde, 19 Temmuz'da Quang Ninh eyaletindeki Ha Long Körfezi'nde onlarca kişinin ölümüne neden olan Green Bay 58 turist teknesinin batmasıyla ilgili kamuoyunun ilgisinden yararlanan birçok sosyal medya hesabı, kurbanlarla ilgili duygusal görüntüler ve hikayeler paylaştı. Ancak bu içeriğin önemli bir kısmı, yapay zeka kullanılarak duyguları manipüle etmek ve sosyal medya kullanıcılarının etkileşimini çekmek amacıyla oluşturulmuş sahte içeriklerdi. Özellikle, abartılı sempati içeren sahte görüntülerin yaygın kullanımı, kurbanların ailelerini daha da travmatize edebilir.

Yapay zeka teknolojisinin sürekli gelişmesiyle, kullanıcının niyetleriyle mükemmel bir şekilde eşleşen, ilgi çekici içeriğe sahip bir video oluşturmak sadece birkaç dakika ve basit komutlar gerektiriyor. Bunlar arasında KlingAI, Veo 3 ve Sora gibi yeni nesil yapay zeka platformları, Vietnam da dahil olmak üzere dünya çapındaki kullanıcılar arasında oldukça popüler.

Ayrıca, derin öğrenme ve sahtekarlığın birleşimi olan deepfake teknolojisi de küresel ölçekte büyük bir endişe kaynağıdır; çünkü bu teknoloji, sahte olduklarını tespit etmeyi çok zorlaştıracak kadar gerçekçi görünen görüntüler, sesler veya videolar oluşturmak için kullanılabilir. Sonuç olarak, bu teknolojiyle ilgili çok sayıda dolandırıcılık vakası hem Vietnam'da hem de dünyanın dört bir yanında meydana gelmiştir.

Ulusal Siber Güvenlik Birliği Daimi Başkan Yardımcısı Korgeneral Nguyen Minh Chinh, yapay zekanın yasadışı amaçlarla kötüye kullanılmasında artan bir eğilim olduğunu belirtti. Özellikle, yapay zeka tarafından sağlanan araçlar ve uygulamalar (AI-as-a-Service), siber suçlular tarafından kötü amaçlı yazılım oluşturmak, ses, yüz ve metin taklit etmek... dolandırıcılık, siber saldırılar, veri sistemine izinsiz giriş ve hatta kuruluşların, işletmelerin ve liderlerin güvenliğini istikrarsızlaştırmak ve itibarını zedelemek için kullanılıyor.

Hoa Binh Siber Uzay Şirketi Limited (CyPeace) Teknik Direktörü Bay Tran Ngoc Anh'a göre, yapay zeka kullanıcıları için risklerden biri, aracın kendisi tarafından üretilen yanlış bilgilere maruz kalma olasılığıdır. Buna ek olarak, gizli bilgilerin ve kişisel verilerin sızması gibi bir dizi başka sorun da bulunmaktadır.

İnternette "izleyicileri ağlatmak" amacıyla sahte görüntüler yayılıyor, böylece beğeniler kazanılıyor ve etkileşim artırılıyor (Ekran görüntüsü).

Kullanıcı sorumluluğunun artırılması

Yapay zekânın geliştirilmesi ve kullanımını sıkı bir şekilde kontrol altına alacak teknolojik ve yasal önlemler alınmadan önce, kullanıcıların bu teknolojiyi sorumlu bir şekilde kullanmaları gerekmektedir.

Ulusal Siber Güvenlik Birliği Teknoloji Komitesi Başkanı siber güvenlik uzmanı Vu Ngoc Son, yapay zekayı kullanan ve ondan faydalananların insanlar olduğunu, bu nedenle yapay zekanın hem iyi hem de kötü yönlerinin insanlarla yakından bağlantılı olduğunu belirtti. Kullanıcılar yetenekliyse ve onu iyi amaçlar için kullanırlarsa, teknoloji kendi güçlü yönlerinden faydalanacaktır. Tersine, yapay zeka kullanıcıları anlayıştan yoksunsa veya onu yasa dışı amaçlar için kullanırlarsa, ciddi sonuçlara yol açabilir. Siber güvenlik uzmanı, "Yapay zekayı etkili bir şekilde kullanmak ve ondan faydalanmak için bir ekip ve süreç oluşturmaya odaklanmak gerekir. Yapay zeka, ancak onu nasıl kullanacağını bilenlerin eline geçtiğinde değerini gösterir" dedi.

Günümüzde siber dolandırıcılığı kolaylaştıran önde gelen araçlardan biri olan deepfake teknolojisinin tehlikeleri göz önüne alındığında, Maliye Bakanlığı Yatırım ve İşletme Kanunu taslağının hazırlanması sırasında, bilgi bozulmasına ve dolandırıcılığa neden olan teknolojinin kötüye kullanılmasını önlemek için deepfake teknolojisi işinin şartlı bir iş sektörü olarak düzenlenmesi gerektiğinin altını çizmiştir. Maliye Bakanlığı'na göre, deepfake teknolojisi işi şu anda güvenlik ve düzen açısından karmaşık potansiyel riskler taşıyan yeni alanlardan biridir, ancak şartlı bir iş sektörü olarak düzenlenmemektedir.

Hanoi Barosu avukatı Tran Anh Tuan'a göre, yapay zekayı izinsiz içerik oluşturmak, özellikle de sahte, uydurma veya hileli bilgi üretmek için kullanmak, Medeni Kanun hükümlerini ihlal edebilir. İhlal edenler idari para cezaları veya tazminatla karşı karşıya kalabilir. Ciddi sonuçlara yol açan durumlarda ise cezai sorumluluk söz konusu olabilir. Avukat Tuan, "Kullanıcılar yapay zekaya erişirken ve kullanırken dikkatli olmalı, görüntülenme veya beğeni kazanmak için yapay zekayı istismar eden her türlü eylemden kesinlikle kaçınmalıdır; yapay zekayı kullanırken ve çevrimiçi ortamda yer alırken kişisel sorumluluklarını artırmalı ve kanunlara uymalıdırlar" diye tavsiyede bulundu.

Korgeneral Nguyen Minh Chinh, sürdürülebilir yapay zeka geliştirmenin temel unsurunun insan kaynakları olduğunu vurguladı. Araştırmacılardan, mühendislerden, siber güvenlik uzmanlarından yöneticilere ve kullanıcılara kadar herkesin bilgi, beceri, etik ve yasal farkındalıkla tam donanımlı olması gerekiyor. Ona göre bu, yalnızca yapay zeka sistemlerini kuran ve işleten ekip değil, aynı zamanda siber alanda yüksek teknoloji suçlarını önleme, tespit etme ve bunlarla mücadele etmede de kilit güçtür.

Vietnam'da Yapay Zeka Kanunu yürürlüğe girecek.

Yakın zamanda düzenlenen ulusal bir yapay zekâ bilimsel konferansında, Bilim ve Teknoloji Bakanı Nguyen Manh Hung, yapay zekânın büyük fırsatlar sunduğunu ancak etik, istihdam ve toplumsal güven konularında da birçok sorunu beraberinde getirdiğini belirtti. Bu nedenle, yapay zekâ geliştirmenin hızlı, güvenli ve insancıl olması gerektiğini vurguladı.

Bakan Nguyen Manh Hung'a göre, yapay zeka insanları yerini almaz, aksine insanlara hizmet eder ve onların asistanı olarak görev yapar. Yapay zeka güçlü bir araçtır, ancak karar vericiler insanlardır; bu nedenle yapay zeka, insan düşüncesini, değerlerini ve sorumluluklarını desteklemeli, yerini almamalıdır. Bakan Nguyen Manh Hung, "Bilim ve Teknoloji Bakanlığı, uluslararası standartlarla uyumlu ancak Vietnam gerçeklerine uygun olarak tasarlanmış ulusal bir yapay zeka etik kodu yayınlayacak ve ayrıca bir yapay zeka yasası ve yapay zeka stratejisi geliştirecektir" dedi.

Kaynak: https://nld.com.vn/ngan-cong-nghe-vuot-ranh-gioi-dao-duc-196250923205638915.htm