Yapay zeka geleceği şekillendiriyor - Bölüm 2: Yapay zekanın beraberinde getirdiği zorluklar

Potansiyel riskle birlikte gelir

Yapay zekânın (YZ) çalışanları desteklemek ve insan hayatını kolaylaştırmak için giderek daha güçlü bir araç olduğu inkâr edilemez. Ancak bu teknolojik ürünler, kötü niyetli kişiler tarafından siber alanda dolandırıcılık ve saldırı yapmak için kullanıldığında "iki ucu keskin bir kılıç" gibi işlev görüyor.

Bilgi Güvenliği Departmanı ( Bilgi ve İletişim Bakanlığı ) veya Siber Güvenlik Derneği'nin uyarı bültenlerinde, yapay zeka teknolojisi kullanılarak gerçekleştirilen birçok dolandırıcılık vakası kaydedildi. Örneğin, Hanoi'de bir ofis çalışanı olan Bayan Nguyen Thanh T, Facebook Messenger üzerinden bir arkadaşıyla sohbet ederken, arkadaşı vedalaşıp konuşmayı sonlandırdı, ancak aniden mesaj atarak borç para istedi ve parayı bir banka hesabına aktarmayı talep etti. Hesap adı arkadaşının adıyla eşleşse de, Bayan T şüphelendi ve doğrulamak için görüntülü görüşme talep etti. Arkadaşı hemen kabul etti, ancak görüşme "kesintili ağ" nedeniyle yalnızca birkaç saniye sürdü.

Görüntülü görüşmede arkadaşının yüzünü gören ve ses tonunun da doğru olduğunu fark eden Bayan T, parayı transfer etti. Ancak transfer başarılı olduktan sonra hacker'ın tuzağına düştüğünü fark etti.

Sadece Bayan T değil, birçok başka mağdur, arkadaş ve akraba da aynı şekilde dolandırıldı. Kötü niyetli kişilerin Deepfake araçları ve sesler kullanarak dolandırdıkları para miktarı on milyonlarca dong'a ulaştı.

Yapay zekanın varlıkları ele geçirmek için kullanılmasının tipik bir örneği de Bay NTH vakasıdır. Dolandırıcılar, bir Android telefon kullanırken, kötü amaçlı yazılım bağlantısı yükleme talimatlarıyla bir tuzak kurarlar. Ardından, telefonu ve banka hesaplarını ele geçirerek üçüncü bir tarafa para aktarırlar. Ayrıca, kötü amaçlı yazılım mevcut iletişim bilgileriyle otomatik olarak iletişime geçer ve para transferi isteyen otomatik mesajlar gönderir.

Bay NTH, dolandırıcının " polis memuru" olduğunu iddia ettiğini, telefon numarasını aradığını ve kişisel kimlik bilgilerini doğrulamak istediğini söyledi. Yaşlı, teknolojiden anlamayan ve saf biri olduğu için mağdur, telefonunu üçüncü bir kişiye vererek dolandırıcının talimatlarını izlemesini istemiş ve böylece "DichVuCong.apk" adlı kötü amaçlı uygulamayı telefonuna indirip kurmuş.

Bilgi Sistemleri Güvenlik Departmanı Başkanı Tran Nguyen Chung şunları söyledi: Yapay zeka teknolojisi geliştikçe, siber uzaydaki gerçek ve sahte içerikleri tespit etmek ve ayırt etmek daha da zorlaşacak ve herkes yapay zeka teknolojisi kullanan suçluların siber saldırılarının hedefi, kurbanı haline gelebilecek. Ancak, kurban olup olmamak, her bireyin gerekli bilgi ve donanıma sahip olmasına bağlı.

Yapay zeka teknolojisi dolandırıcılığı sadece Vietnam'da değil, dünyanın birçok ülkesinde de görülüyor. Şu anda kurumlar, kuruluşlar ve büyük teknoloji şirketleri, bu durumu kökünden tespit edip önlemek için önlemler ve teknik çözümler bulmak üzere birlikte çalışıyor.

Mevcut dönemde önemli olan, propagandayı teşvik etmek, insanları bu karmaşık sahtecilik biçimini tanıma ve onunla başa çıkma yöntemleri, püf noktaları ve yolları konusunda bilinçlendirmek ve deepfake'in siber uzaydaki faaliyetler üzerindeki etkisini azaltmaya ve sınırlamaya yardımcı olmaktır. Yeni gelişmeler ve dolandırıcılık biçimleri olduğunda kitle iletişim araçlarında proaktif olarak yaygın uyarılar yayınlanmalıdır.

Bay Tran Nguyen Trung, "Hassas görüntüler veya videolarla şantaj aramaları alındığında, kişilerin sakin kalması, görüntülerin ve videoların kaynağını doğrulaması ve dikkatlice araştırması gerekiyor" dedi.

Vietnam Ulusal Üniversitesi Hanoi'ye bağlı Ekonomi Üniversitesi (UEB) tarafından hazırlanan "2024'te Küresel Ekonomiye Yönelik Risklerin Belirlenmesi" araştırma raporuna göre, küresel ekonomiyi etkileyen risklerden biri teknoloji sektöründeki risk. Raporda, yapay zekanın hızla yükselişi göz önüne alındığında, yönetim politikalarının yapay zekanın gelişimine ayak uyduramadığı belirtiliyor. Yapay zekanın sağladığı yanlış bilgiler, özellikle bu yıl gibi dünyada çok sayıda seçimin yaşandığı bir yılda, küresel güvenlik, siyaset, savunma ve barış açısından birçok soruna yol açıyor.

Tin Tuc gazetesi muhabirlerine konuşan Bilim ve Teknoloji Bakan Yardımcısı Nguyen Hoang Giang, şunları söyledi: “Başbakan, 2030 yılına kadar yapay zekanın ulusal araştırma stratejisi, geliştirilmesi ve uygulanması hakkında 127/2021 sayılı Kararı yayınladı. Uygulamak için Bilim ve Teknoloji Bakanlığı ile diğer bakanlıklar ve şubeler, örneğin Adalet Bakanlığı'nın hukuki yönünü araştırması gibi, büyük ve eş zamanlı olarak uygulamalar yürütüyor. Bilgi ve İletişim Bakanlığı dijital teknolojiyi araştırıyor. Bilim ve Teknoloji Bakanlığı da endüstri 4.0'ı destekledi, araştırdı ve geliştirdi; dijital ve akıllı şehirlerin gelişimine hizmet eden bilgi teknolojisi gelişimini araştırdı ve uyguladı. Ancak hızlı ve güçlü gelişmeyle birlikte, siber suçlular için dolandırıcılık, kimliğe bürünme, tehdit, mülk gaspı vb. amaçlarla bir araç haline getirildiğinde yapay zekanın olumsuz yönleri ve riskleri de ortaya çıktı.

Şu ana kadar, Bilim ve Teknoloji Bakanlığı ve Hükümet, araştırmaların yanı sıra, diğer gelişmiş ülkelerin deneyimlerinden de yararlanarak, Vietnam'daki yapay zeka alanının potansiyelini ortaya çıkarması, gelişmeyi teşvik etmesi ve yapay zeka alanında etik ve insani değerleri sıkı bir şekilde kontrol edip güvence altına alması için yasal bir çerçeve de aktif olarak oluşturuyor.

Yapay zeka araçlarının hızla gelişmesi, insan hakları, etik, gizlilik, bilgi güvenliği ve yasal sorumluluk konularında birçok sorunu gündeme getirmiştir. Dünya ile karşılaştırıldığında, Vietnam yapay zeka gelişiminin henüz erken aşamalarındadır. Bu nedenle, Vietnam'da yaşamın, ekonominin ve toplumun her alanına uygun, özel yapay zeka düzenlemelerine ve politikalarına ihtiyaç duyulmaktadır.

Acilen yasal çerçeve yayınlayın

Yapay zekanın karanlık tarafının yönetimi de birçok ülkede tartışılan bir konu. Avrupa Parlamentosu, yapay zekayı düzenleyen dünyanın ilk temel kurallar setini onayladı. Birçok teknoloji uzmanı, bu kurallar setinin AB'nin her iki hedefe de ulaşmasına yardımcı olacağına inanıyor: Teknolojik gelişimin kullanıcılar üzerindeki olumsuz etkisini en aza indirmek ve pazardaki kilit rakiplerin hakim konumunu yakalamak.

Kısa bir süre sonra Birleşmiş Milletler Genel Kurulu, yapay zekâ (YZ) konusunda bir karar alarak, bu yeni teknolojinin tüm ülkelere fayda sağlamasını, insan haklarına saygılı olmasını ve “güvenli, emniyetli ve güvenilir” olmasını sağlamak için uluslararası çabalara küresel destek sağladı.

Ulusal Siber Güvenlik Teknolojileri Anonim Şirketi Teknik Direktörü Bay Vu Ngoc Son şunları söyledi: "Yapay zeka, insan çıkarlarına hizmet eden ve birçok farklı operasyon aşamasının otomasyonunu destekleyen bir teknolojidir. Bu, soru-cevap hizmetleri, yazılım üretimi vb. gibi birçok farklı amaç için kullanılan güçlü bir araçtır. Ancak yapay zekanın, kullanıcılara saldırmak için sahte içerik ve kötü amaçlı kodlar oluşturmayı amaçlayan kötü niyetli kişilerin eline geçtiğinde olumsuz bir yanı da vardır. Dolayısıyla yapay zeka, özellikle ürün veya suç oluşturmak için kullanılan bir araç değildir; önemli olan yapay zekanın "nasıl kullanılacağıdır".

Bay Vu Ngoc Son, "Yaptırımların ve yasal koridorların yapay zeka gelişiminin hızına yetişemediğini düşünüyorum. Yapay zekanın kötü amaçlar için kullanıldığında insan haklarını, güvenliği, düzeni ve sosyal güvenliği etkileyen risklerini sınırlayacak politikalar oluşturmak ve uygulamaya koymak için zamana ihtiyacımız olacak," dedi.

CMC ATI Enstitüsü Müdürü Dr. Dang Minh Tuan şunları söyledi: "Bir yandan, yeni teknolojiler araştırmaya ve geliştirmeye, yapay zekayı kötü amaçlar için kullanma yöntemlerini güncellemeye ve incelemeye devam etmeliyiz. Diğer yandan, bilimde ve işte dürüstlüğü de teşvik etmeliyiz. Bu doğrultuda, Vietnam'da bu araç için içerik ve özel politikalarda ayarlamalar ve yatırımlar yapılmalıdır. Özellikle, yapay zeka araçlarını kötü amaçlı içerik ve kodları tespit etmek için de kullanabiliriz. Yapay zeka, insan çıkarlarına hizmet etme nihai hedefiyle sürekli gelişen, sürekli ve sürekli bir etki süreci yaratan "çift taraflı bir kılıç" gibidir."

Uzmanlar, yüksek teknoloji ürünlerinin geliştirilmesinin sorumlu bir şekilde kontrol edilmesi gerektiğini, çünkü teknolojiyi düzenleme ve yönetme becerisinin eksikliğinin öngörülemeyen sonuçlara yol açacağını, ekonomiye zarar vereceğini ve hem her bireyi hem de toplumun tamamını etkileyeceğini söylüyor.

Belirli ve şeffaf düzenlemelerin çıkarılması, yapay zekanın neden olabileceği riskleri önlemeye ve en aza indirmeye yardımcı olmanın yanı sıra, Vietnam'ın dünyanın önde gelen teknoloji şirketlerinin dikkatini ve yatırımını çekmesine yardımcı olacak ve yerli bilişim teknolojileri ve yapay zeka sektörünün gelişmesini teşvik edecektir.

Son makale: Yapay zekanın paralel gelişimi ve kontrolü

Kaynak: https://doanhnghiepvn.vn/cong-nghe/ai-dang-dinh-hinh-tuong-lai-bai-2-nhung-thach-thuc-di-kem/20240614100957238