Ucuz bir kaynak olma riskinden kaçınmak için Vietnam ne yapmalı?

(Dan Tri) - Vietnam'ın Yapay Zeka Yasası'nı çıkarmayı düşünen öncü ülkelerden biri olması bağlamında, sorun yalnızca teknolojiyi teşvik etmek değil, aynı zamanda dijital egemenliği ve insanların güvenliğini de korumaktır.

Yapay zekânın (YZ) patlaması insanlığa büyük faydalar sağlıyor ancak aynı zamanda sayısız sonuçları da beraberinde getiriyor: Irksal önyargılardan, karmaşık çevrimiçi dolandırıcılıklara ve gelişmekte olan ülkelerin ucuz "veri madenlerine" dönüşme riskine kadar.

Bu gerçek göz önüne alındığında, yapay zekanın sorumlu kullanımı gönüllü mü yoksa zorunlu mu olmalı? Vietnam, bu alan için yasal bir koridor oluştururken ne yapmalıdır?

Muhabir, VinFuture Bilim ve Teknoloji Haftası etkinliği kapsamında, Avustralya'daki New South Wales Üniversitesi'nden Amerikan Bilgisayar Topluluğu Akademisyeni Profesör Toby Walsh ile bir söyleşi gerçekleştirdi.

Profesör, "makineleri" sorumlu tutmaktan, ailelerin kendilerini yüksek teknoloji dolandırıcılık dalgasından nasıl koruyacaklarına dair ipuçlarına kadar, yapay zeka ile nasıl "davrandığımıza" dair içgörüler sunuyor.

Yapay zekadan kim sorumludur?

Hocam, yapay zekanın sorumlu kullanımı gönüllü mü yoksa zorunlu mu olmalı? Yapay zekaya karşı nasıl davranmalıyız?

- Yapay zekanın sorumlu bir şekilde kullanılmasının zorunlu olması gerektiğine kesinlikle inanıyorum . Yapay zeka ile büyük miktarda para kazanıldığı için ters teşvikler söz konusu ve uygun davranışı sağlamanın tek yolu, kamu yararının her zaman ticari çıkarlarla dengelenmesini sağlayacak sıkı düzenlemeler getirmek .

Yapay zeka hata yaptığında sorumlu kim olacak? Özellikle yapay zeka ajanları söz konusu olduğunda, çalışma mekanizmalarını düzeltme yeteneğimiz var mı?

Yapay zekanın hata yapmasının temel sorunu, yapay zekayı sorumlu tutamamamızdır. Yapay zeka insan değildir ve bu, dünyadaki her hukuk sistemindeki bir kusurdur. Yalnızca insanlar kararlarından ve eylemlerinden sorumlu tutulabilir.

Aniden, eğer izin verirsek dünyamızda kararlar alabilen ve eylemlerde bulunabilen yeni bir "aracı", yani yapay zekamız var. Bu da bir zorluğu ortaya çıkarıyor: Kimi sorumlu tutacağız?

Cevap şudur: Yapay zeka sistemlerini kuran ve işleten şirketler, bu "makinelerin" yol açtığı sonuçlardan sorumlu tutulmalıdır.

Birçok şirket sorumlu yapay zekadan da bahsediyor. Onlara nasıl güvenebiliriz? Ciddi ve kapsamlı olduklarını, "sorumlu yapay zeka"yı sadece bir pazarlama taktiği olarak kullanmadıklarını nasıl bilebiliriz?

- Şeffaflığı artırmamız gerekiyor. Yapay zeka sistemlerinin yeteneklerini ve sınırlamalarını anlamak önemli. Ayrıca "yaparak oy vermeli", yani hizmetleri sorumlu bir şekilde kullanmayı seçmeliyiz.

İşletmelerin yapay zekayı sorumlu bir şekilde kullanmalarının pazarda fark yaratacağına ve onlara ticari avantaj sağlayacağına gerçekten inanıyorum.

Bir şirket müşteri verilerine saygı duyarsa, hem fayda sağlar hem de müşteri çeker. İşletmeler, doğru olanı yapmanın sadece etik olmadığını, aynı zamanda daha başarılı olmalarına da yardımcı olacağını anlayacaktır. Bunu, işletmeler arasında ayrım yapmanın bir yolu olarak görüyorum ve sorumlu işletmeler, iş yaparken kendimizi rahat hissedebileceğimiz işletmelerdir.

Vietnam'ın kültürel değerleri proaktif bir şekilde koruması gerekiyor.

Vietnam, Yapay Zeka Yasası'nı çıkarmayı düşünen az sayıdaki ülkeden biri. Bu konudaki değerlendirmeniz nedir? Sizce Vietnam gibi gelişmekte olan ülkeler için yapay zeka geliştirmede etik ve güvenlik açısından ne gibi zorluklar yaşanıyor?

- Vietnam'ın Yapay Zeka konusunda uzmanlaşmış bir yasaya sahip öncü ülkelerden biri olmasından büyük mutluluk duyuyorum. Bu önemli çünkü her ülkenin kendine özgü değerleri ve kültürü var ve bu değerleri koruyacak yasalara ihtiyaç duyuyor.

Vietnam değerleri ve kültürü Avustralya, Çin ve Amerika Birleşik Devletleri'nden farklıdır. Çin veya Amerika Birleşik Devletleri'ndeki teknoloji şirketlerinin Vietnam kültürünü ve dilini otomatik olarak korumasını bekleyemeyiz. Vietnam, bunları korumak için inisiyatif almalıdır.

Geçmişte birçok gelişmekte olan ülkenin fiziksel bir sömürgeleşme sürecinden geçtiğinin farkındayım. Dikkatli olmazsak, bir "dijital sömürgeleşme" döneminden geçebiliriz. Verileriniz sömürülecek ve ucuz bir kaynak haline geleceksiniz.

Gelişmekte olan ülkeler yapay zeka endüstrisini yalnızca veriyi sömüren, kendi çıkarlarını kontrol etmeyen veya korumayan bir şekilde geliştirirlerse bu durum riske girer.

Peki bu durumun üstesinden nasıl gelinir?

- Çok basit: İnsanlara yatırım yapın. İnsanların becerilerini geliştirin, yapay zekayı anlamalarını sağlayın. Girişimcileri, yapay zeka şirketlerini ve üniversiteleri destekleyin. Proaktif olun. Başka ülkelerin teknoloji transfer etmesini veya bize rehberlik etmesini beklemek yerine, proaktif olmalı ve teknolojiye hakim olmalıyız.

Profesör Toby Walsh, VinFuture Bilim ve Teknoloji Haftası'nda paylaşımda bulunuyor (Fotoğraf: Düzenleme Komitesi).

İkincisi, Vietnam'daki kullanıcılar için güvenli bir ortam yaratmak ve aynı zamanda ülkenin demokrasisini etkilememek için sosyal medya platformlarını güçlü bir şekilde savunmalıyız.

Aslında sosyal medya içeriklerinin seçim sonuçlarını nasıl etkilediğine, ülkeleri nasıl böldüğüne, hatta terörü nasıl körüklediğine dair sayısız örnek var.

Yapay zeka üzerinde 40 yıldır çalışıyorum. İlk 30 yıl boyunca yapay zekayı nasıl daha güçlü hale getirebileceğimle ilgilendim. Son 10 yılda ise yapay zekayı sorumlu bir şekilde geliştirme konusunda giderek daha fazla ilgi duymaya ve sesimi yükseltmeye başladım.

Vietnam'ın Yapay Zeka Yasası'nı hazırlama sürecinde olması nedeniyle bize bazı tavsiyelerde bulunabilir misiniz?

- Yeni yasalara ihtiyaç duyulmayan birçok durum var. Zaten gizlilik yasalarımız var, rekabet yasalarımız var. Bu mevcut yasalar, fiziksel dünya için geçerli olduğu kadar dijital alan için de geçerlidir.

Bu kanunların fiziksel ortamda olduğu kadar dijital ortamda da sıkı bir şekilde uygulanması önemlidir.

Ancak, ortaya çıkan bazı yeni riskler var ve bunları görmeye başlıyoruz. İnsanlar yapay zekayla ilişki kurmaya, yapay zekayı terapist olarak kullanmaya başlıyor ve bu bazen kullanıcılara zarar verebiliyor, bu yüzden dikkatli olmamız gerekiyor.

Üreticileri ürünlerini piyasaya sürdüklerinde her zaman sorumlu tutarız. Örneğin, yapay zeka şirketleri insanlara zarar veren yapay zeka ürünleri piyasaya sürerse, onlar da sorumlu tutulmalıdır.

Peki, yapay zekanın çocuklara zararlı etkiler yaratmasını nasıl önleyebiliriz ve yapay zeka ortaya çıktığında çocuklar için güvenli bir ortam nasıl yaratabiliriz, efendim?

- Sosyal medyadan pek ders çıkarmadığımızı düşünüyorum. Birçok ülke artık sosyal medyanın büyük faydalarının yanı sıra birçok dezavantajı olduğunu, özellikle de gençlerin, özellikle de kızların ruh sağlığı, kaygı düzeyleri ve beden algıları üzerindeki etkilerinin farkına varmaya başlıyor.

Birçok ülke bu sorunu çözmek için önlemler almaya başladı bile. Avustralya'da sosyal medya kullanım yaşı sınırı 10 Aralık'ta yürürlüğe girecek. Yapay zeka için de benzer önlemlere ihtiyacımız olduğunu düşünüyorum.

Olumlu etkileri olabilen ama aynı zamanda zarar da verebilen araçlar geliştiriyoruz ve çocuklarımızın zihinlerini ve kalplerini bu olumsuz etkilerden korumamız gerekiyor.

Ayrıca ülkelerin sosyal ağları yönetmek için de sıkı düzenlemeler yapmasını ve böylece yapay zekayı kullanırken herkes için gerçek anlamda güvenli bir ortam yaratılmasını umuyorum.

Aslında, yapay zekanın yol açtığı risklerle yalnızca çocuklar değil, yetişkinler de karşı karşıya. Peki insanlar yapay zekayı hayatlarını iyileştirmek ve tehlike yaratmamak için nasıl kullanabilirler?

- Yapay zeka birçok alanda uygulanarak yaşam kalitemizi iyileştirmeye yardımcı oluyor. Tıpta yapay zeka, yeni ilaçların keşfedilmesine yardımcı oluyor. Eğitimde de yapay zeka birçok olumlu fayda sağlıyor.

Ancak, yeterli güvenlik önlemleri olmadan yapay zekaya erişim sağlamak çok riskli. ABD'de, ebeveynlerin, yapay zeka sohbet robotlarıyla etkileşime girdikten sonra çocuklarını intihara sürükleyen teknoloji şirketlerine dava açtığı davalar gördük.

ChatGPT kullanıcılarının ruhsal sağlık sorunları yaşama oranı çok düşük olsa da, yüz milyonlarca kullanıcıya sahip olmasına rağmen gerçek sayı yüz binlerle ifade ediliyor.

Veri, yapay zeka gelişimi için çok önemlidir, ancak yönetim açısından bakıldığında, veri yönetimi çok sıkı olursa yapay zekanın gelişimini engeller. Sizce veri yönetimini gevşetmek hangi tehlikelere yol açabilir? Veri toplama, güvenli veri yönetimi ve yapay zeka için geliştirme yaratma arasında nasıl bir denge kurulabilir?

- Kesinlikle katılıyorum. Veri, yapay zeka gelişiminin merkezinde yer alır , çünkü onu yönlendiren veridir. Veri olmadan hiçbir ilerleme kaydedemeyiz. Yaptığımız her şeyin merkezinde yüksek kaliteli veriler bulunur. Aslında, şirketlerin elde ettiği ticari değer ve rekabet avantajı verilerden gelir. Kaliteli veriye sahip olup olmadığımız, asıl mesele budur.

Dünyanın dört bir yanındaki yazarların -benimki de dahil- kitaplarının izinsiz ve tazminatsız kullanıldığını görmek sinir bozucu. Bu, başkalarının emeğinin meyvelerini çalmak anlamına geliyor. Bu durum devam ederse, yazarlar kitap yazma motivasyonunu kaybedecek ve biz de değer verdiğimiz kültürel değerlerimizi kaybedeceğiz.

Şu anki durumdan daha adil bir çözüm bulmamız gerekiyor.

Şu anda "Silikon Vadisi", yazarlardan içerik ve yaratıcılık alıyor, karşılığında para almıyor; bu sürdürülebilir değil. Mevcut durumu Napster ve 2000'lerdeki çevrimiçi müziğin ilk dönemleriyle karşılaştırıyorum. O zamanlar çevrimiçi müzik tamamen "çalınıyordu", ancak bu sonsuza dek süremezdi çünkü müzisyenlerin üretmeye devam etmek için gelire ihtiyacı vardı.

Son olarak , Spotify veya Apple Music gibi ücretli yayın sistemlerimiz veya gelirinin bir kısmı sanatçıya geri dönen reklam destekli müziklerimiz var. Yazarların verilerinden değer elde edebilmeleri için kitaplarda da aynısını yapmalıyız. Aksi takdirde, kimse kitap yazmaya motive olmaz ve yeni kitaplar yazılmazsa dünya çok daha kötü bir durumda kalır.

VinFuture Bilim ve Teknoloji Haftası kapsamında Vincom Royal City Çağdaş Sanat Merkezi'nde "Toa V - Bilimin Dokunma Noktası" sergisi de yer alacak (Fotoğraf: Düzenleme Kurulu).

Yapay zeka Vietnam'da oldukça gelişmiş durumda. Son zamanlarda Vietnam, yapay zekayı teşvik etmek için birçok politika uyguladı, ancak aynı zamanda yapay zeka kaynaklı dolandırıcılık gibi bir sorunla da karşı karşıya. Peki Profesör'e göre Vietnam bu durumla nasıl başa çıkmalı? Profesör, bugün yapay zeka kullananlara güvenliklerini sağlamak ve verilerini korumak için ne tavsiye ediyor?

- Her birey için en basit yolun bilgileri doğrulamak olduğunu düşünüyorum. Örneğin, bir bankadan telefon veya e-posta aldığımızda, tekrar kontrol etmemiz gerekir: Bilgileri doğrulamak için o abone numarasını arayabilir veya doğrudan bankayla iletişime geçebiliriz.

Günümüzde çok sayıda sahte e-posta, sahte telefon numarası ve hatta sahte Zoom görüşmesi mevcut. Bu dolandırıcılıklar basit, ucuz ve fazla zaman almıyor.

Ailemizde de kendi güvenlik önlemimiz var: Evcil tavşanımızın adı gibi, yalnızca aile üyelerinin bildiği bir "gizli soru". Bu, önemli bilgilerin aile içinde kalmasını ve dışarı sızmamasını sağlar.

Vietnam da yapay zeka eğitimini genel eğitim kapsamına aldı, peki bu süreçte nelere dikkat edilmeli?

- Yapay zekâ, neyin öğretildiğini ve nasıl öğretildiğini değiştiriyor. Eleştirel düşünme, iletişim becerileri, sosyal zekâ ve duygusal zekâ gibi geleceğin önemli becerilerini etkiliyor. Bu beceriler vazgeçilmez hale gelecek.

Yapay zeka, bu becerilerin öğretilmesinde kişisel öğretmen, kişisel çalışma asistanı olarak yardımcı olabilir ve yapay zeka uygulamaları aracılığıyla çok etkili eğitim araçları sağlayabilir.

Sohbetimize zaman ayırdığınız için teşekkür ederiz Profesör!

Kaynak: https://dantri.com.vn/cong-nghe/viet-nam-can-lam-gi-de-tranh-nguy-co-tro-thanh-nguon-luc-re-tien-20251203093314154.htm