Teknolojinin etik sınırları aşmasını önlemek

Yapay zekanın etik olmayan amaçlar için giderek yaygınlaşması, teknoloji kontrolü ve kullanıcı sorumluluğunun artırılması yönünde acil talepleri ortaya çıkarmıştır.

Yapay zekâ (YZ), hızlı gelişimiyle sağlık, eğitim , iş dünyası ve günlük yaşam gibi birçok alanda bir "devrim" yaratıyor. Ancak bu teknolojinin olumsuz yönleri, siber uzaydaki bilginin yönetimi ve kontrolü açısından önemli zorluklar yaratıyor.

Yapay zeka tarafından üretilen sahte haberlerle dolu

Yapay zeka tarafından üretilen sahte haberler, çoğunlukla görüntülenme, beğeni toplamak, etkileşimi artırmak, çevrimiçi satış yapmak veya platformdan kar elde etmek amacıyla sosyal medya platformlarında yayılıyor.

Sahte haber üreten kişiler genellikle kamuoyunu ilgilendiren güncel konuları "takip ederler". Örneğin, 17 Eylül'de Quang Tri eyaletine bağlı Lao Bao komününe bağlı Tan Long pazarında meydana gelen ve 12 kişinin yaralanıp hayatını kaybettiği ciddi bir trafik kazasının ardından, sosyal medyada birçok izleyiciyi gözyaşlarına boğan yürek burkan görüntüler ortaya çıktı. Bu görüntülerin yapay zekâ tarafından oluşturulduğunu tespit eden Lao Bao komünü polisi, yanlış anlaşılmalara yol açan sahte görüntülerin yayılması konusunda uyarıda bulundu. Bu eylem, yalnızca yanlış bilgilerin yayılmasına neden olmakla kalmıyor, aynı zamanda soruşturmayı da etkiliyor.

Benzer şekilde, 19 Temmuz'da Quang Ninh eyaletindeki Ha Long Körfezi'nde alabora olan ve onlarca kişinin ölümüne yol açan Blue Bay 58 numaralı turist teknesinin etrafındaki kamuoyunun dikkatini çekmek isteyen birçok sosyal medya hesabı, kurbanlar hakkında dokunaklı fotoğraflar ve hikayeler paylaştı. Ancak bu içeriklerin çoğu, yapay zekâ kullanılarak oluşturulmuş sahte içeriklerdi ve sosyal medya kullanıcılarının duygularını "vurmak" ve etkileşimde bulunmak için kullanılıyordu. Özellikle, abartılı sempatik içeriklere sahip yaygın sahte fotoğraflar, kurbanların ailelerinde daha fazla duygusal travmaya neden olabilir.

Yapay zeka teknolojisi her geçen gün gelişiyor ve basit komutlarla kullanıcının amacına uygun, ilgi çekici içerikli bir video oluşturmak sadece birkaç dakika sürüyor. Özellikle KlingAI, Veo 3, Sora gibi yeni nesil yapay zeka platformları, Vietnam da dahil olmak üzere dünya çapındaki kullanıcılar arasında oldukça popüler.

Ayrıca, derin öğrenme ve sahteciliğin bir birleşimi olan deepfake teknolojisi, sahte olduğu tespit edilmesi çok zor olan gerçekçi görüntü, ses veya videolar oluşturmak için kullanılabildiğinden, dünya çapında büyük endişe yaratmıştır. Sonuç olarak, hem Vietnam'da hem de dünya çapında bu teknolojiyle ilgili bir dizi dolandırıcılık yaşanmıştır.

Ulusal Siber Güvenlik Derneği Daimi Başkan Yardımcısı Korgeneral Nguyen Minh Chinh, yapay zekanın yasa dışı amaçlarla kötüye kullanılmasına yönelik bir eğilim olduğunu belirtti. Özellikle, yapay zeka hizmet olarak (AI-as-a-Service - Yapay Zeka araçları ve uygulamaları sağlayan hizmetler - PV), siber suçlular tarafından kötü amaçlı kodlar, sahte sesler, yüzler, metinler oluşturmak, dolandırıcılık yapmak, ağlara saldırmak, veri sistemlerine sızmak, hatta güvenlik istikrarsızlığına neden olmak ve kuruluşların, işletmelerin ve liderlerin itibarını zedelemek için kullanılıyor.

Cyber ​​​​Peace Company Limited (CyPeace) Teknik Direktörü Bay Tran Ngoc Anh'a göre, yapay zeka kullanıcıları için risklerden biri, bu aracın kendisi tarafından oluşturulan yanlış bilgilere erişebilmeleri. Ayrıca, gizli bilgilerin, kişisel verilerin ifşa edilmesi gibi bir dizi başka sorun da mevcut.

İzleyicilerin "gözyaşlarını çekmek", beğenileri toplamak ve etkileşimleri artırmak için internette sahte görseller yayılıyor (Ekran görüntüsü)

Kullanıcı sorumluluğunu artırın

Yapay zekanın gelişimini ve kullanımını sıkı bir şekilde kontrol altına alacak teknolojik ve yasal önlemler alınmadan önce, kullanıcıların bu teknolojiyi sorumlu bir şekilde proaktif bir şekilde kullanmaları gerekiyor.

Ulusal Siber Güvenlik Derneği Teknoloji Departmanı Başkanı Siber Güvenlik Uzmanı Vu Ngoc Son, yapay zekayı kullanan ve kullananların insanlar olduğunu, dolayısıyla yapay zekanın iyi ve kötü yanlarının insanlarla yakından ilişkili olduğunu belirtti. Kullanıcılar nitelikliyse ve onu iyi amaçlar için kullanırsa, teknoloji faydalı yönlerini ortaya çıkaracaktır. Öte yandan, yapay zeka kullanıcıları anlayış eksikliği yaşarsa veya onu yasa dışı amaçlarla kullanırsa, ciddi sonuçlar doğurabilir. Siber güvenlik uzmanı, "Yapay zekayı etkili bir şekilde kullanmak ve kullanmak için ekipler ve süreçler oluşturmaya odaklanmak gerekir. Yapay zeka, ancak onu nasıl ustalaştıracağını bilenlerin eline verildiğinde değerini artırır," dedi.

Günümüzde teknoloji dolandırıcılığının önde gelen aracı olan deepfake tehlikesiyle birlikte, Maliye Bakanlığı Yatırım ve İşletme Kanunu taslağı hazırlama sürecinde şunları vurguladı: Deepfake teknoloji işinin, bilgi kesintisine, dolandırıcılığa neden olan teknoloji suistimallerinin önüne geçmek için şartlı bir iş kolu olarak düzenlenmesi gerekiyor... Maliye Bakanlığı'na göre, şu anda deepfake teknoloji işi, güvenlik ve düzen açısından karmaşık riskler taşıyan ancak şartlı bir iş kolu olarak düzenlenmeyen yeni alanlardan biri.

Hanoi Barosu'ndan avukat Tran Anh Tuan'a göre, yapay zekanın izinsiz içerik oluşturmak, özellikle de yanlış, sahte veya hileli bilgi oluşturmak için kullanılması, Medeni Kanun hükümlerini ihlal edebilir. Buna göre, ihlal edenler idari yaptırımlara veya tazminata tabi tutulacaktır. Ciddi sonuçlar doğurması durumunda cezai sorumluluk davası açılabilir. Avukat Tuan, "Kullanıcıların yapay zekaya yaklaşırken ve kullanırken dikkatli olmaları, görüntüleme ve beğeni toplamak için yapay zekayı kullanmaktan kesinlikle kaçınmaları, kişisel sorumluluklarını artırmaları, yapay zekayı kullanırken ve çevrimiçi ortamda yer alırken yasalara uymaları gerekiyor" diye önerdi.

Korgeneral Nguyen Minh Chinh, sürdürülebilir yapay zeka gelişiminin temel unsurunun insan kaynakları olduğunu vurguladı. Araştırmacılardan mühendislere, siber güvenlik uzmanlarından yöneticilere ve kullanıcılara kadar herkesin bilgi, beceri, etik ve yasal farkındalıkla tam donanımlı olması gerekiyor. Chinh'e göre, bu ekip yalnızca yapay zeka sistemlerini geliştiren ve işleten ekip değil, aynı zamanda siber uzaydaki ileri teknoloji suçlarını önleme, tespit etme ve bunlarla mücadele etmede de kilit güçtür.

Vietnam'da Yapay Zeka Yasası Olacak

Yapay Zeka üzerine yakın zamanda düzenlenen ulusal bilimsel konferansta konuşan Bilim ve Teknoloji Bakanı Nguyen Manh Hung, yapay zekanın büyük fırsatlar sunduğunu, ancak aynı zamanda etik, istihdam ve toplumsal güven açısından birçok sorunu da beraberinde getirdiğini belirtti. Bu nedenle, yapay zekanın hızlı, güvenli ve insani bir şekilde geliştirilmesi gerektiğini belirtti.

Bakan Nguyen Manh Hung'a göre, yapay zeka insanların yerini almıyor, insanlara hizmet ediyor ve insanlara yardımcı oluyor. Yapay zeka güçlü bir araç, ancak karar vericiler insanlar, bu yüzden yapay zekanın insan düşüncesini, değerlerini ve sorumluluklarını desteklemesine izin verin, yerine geçmesine izin vermeyin. Bakan Nguyen Manh Hung, "Bilim ve Teknoloji Bakanlığı, uluslararası standartlarla uyumlu, ancak Vietnam uygulamalarına uygun olarak tasarlanmış ulusal bir Yapay Zeka Etik Kuralları yayınlayacak ve aynı zamanda bir Yapay Zeka Yasası ve stratejisi geliştirecek" dedi.

Kaynak: https://nld.com.vn/ngan-cong-nghe-vuot-ranh-gioi-dao-duc-196250923205638915.htm