Bilgi güvenliği tehdit altında olduğunda yapay zeka tarafından oluşturulan görüntülere dikkat edin

Hızlı teknolojik gelişim çağında, yapay zekâ (YZ) kullanarak görsel oluşturma eğilimi sosyal medya platformlarında yaygınlaşıyor ve özellikle gençler olmak üzere birçok kullanıcının ilgisini çekiyor. Yapay zekâ ile oluşturulan fotoğraflar son derece yaratıcı olup, eğlence, içerik kişiselleştirme ve kişiliği ifade etme amacına hizmet ediyor. Ancak bu çekiciliğin ardında, güvenlik ve bilgi güvenliği açısından potansiyel riskler yatıyor.

Eğlence mi yoksa potansiyel bir tetikleyici mi?

Hanoi Polisi'ne göre, son zamanlarda yapay zekâ (YZ) kullanarak görüntü oluşturma eğilimi yaygınlaştı ve bu durum birçok kullanıcının dikkatini çekti. Çoğunlukla eğlence amaçlı olsa da, bu görüntülerin yayılması, özellikle Ağustos Devrimi'nin 80. yıldönümü ve ülkenin 2 Eylül Ulusal Günü'nde bilgi güvenliğini ve emniyetini doğrudan etkileyen birçok potansiyel risk barındırıyor.

Günümüzde kullanıcılar, yapay zekâ yazılımları aracılığıyla görsellere kolayca erişip bunları oluşturabiliyor ve bu görselleri Zalo, Tiktok, Facebook vb. sosyal ağlarda avatar, haber ve makale olarak kullanabiliyor. Ancak kullanıcılar dikkatli olmaz, politik açıdan duyarsız davranır ve yapay zekâ tarafından oluşturulan görselleri kontrol etmezlerse, Hoang Sa ve Truong Sa takımadaları hakkında bilgi içermeyen bir Vietnam haritası görseli gibi Vietnam halkına uygun olmayan hatalı görseller kullanabilirler. Bu hatalı görsellerin kullanımı, siber uzay hakkındaki kamuoyunu büyük ölçüde etkileyecek ve sınır egemenliği meselelerinin yanı sıra tarih ve ulusal kültürel gelenekler hakkında yanlış bir algı oluşmasına neden olacaktır.

Yapay zeka, Vietnam haritasının eksik olduğu Hoang Sa - Truong Sa takımadalarının basılı olduğu Ao Dai görüntüsünü oluşturdu. (Fotoğraf: Hanoi Şehir Polisi)

Hanoi'deki bir sosyal medya kullanıcısı, yapay zeka yazılımı kullanarak üzerine Vietnam haritası basılmış bir ao dai fotoğrafı oluşturdu ve ardından "ulusal gurur" akımına yanıt olarak TikTok'ta paylaştı. Ancak yapay zeka tarafından oluşturulan fotoğrafta Hoang Sa ve Truong Sa takımadaları yoktu. Gönderi hızla viral oldu ve binlerce görüntüleme ve paylaşım aldı, ancak aynı zamanda çevrimiçi topluluktan da yoğun tepkiler aldı. Yetkililer, içeriğin kaldırılmasını talep ederek ve ulusal egemenlikle ilgili yanlış bilgilerin yayılmasına karşı uyararak harekete geçti.

Yetkililerden uyarı

Vietnam Ulusal Siber Güvenlik Teknolojileri Şirketi - NCS Teknik Direktörü Bay Vu Ngoc Son'a göre, son zamanlarda yapay zeka ve yapay zeka tabanlı uygulamalar hayatın birçok alanında hızla gelişiyor. ChatGPT, aslında BT uzmanı olmayan çoğu kişinin kolayca erişebildiği bir uygulama olduğu için hızla yaygınlaştı.

Teknoloji açısından ChatGPT, mevcut diğer yapay zeka tabanlı teknolojilerle karşılaştırıldığında çığır açıcı bir gelişme olmasa da, veri açısından ChatGPT, birçok alanda büyük miktarda veriye dayandığında oldukça başarılı olmuş ve kullanıcılara "her şeyi bildiklerini" hissettirmiştir. ChatGPT'nin bugüne kadarki cazibesi de budur.

Güvenlik açısından, ChatGPT'nin kendisi bir soru-cevap hizmeti sunmak için oluşturulmuştur, bu nedenle en büyük risk, ChatGPT'nin kullanıcılara yanıtladığı içeriğin, ChatGPT'nin yanlış bilgi vermesini sağlamak için birileri tarafından kontrol edilip edilmeyeceği veya "zehirlenip zehirlenmeyeceği"dir. Şu anda ChatGPT'nin saldırıya uğrayabileceğine dair bir kanıt bulunmamaktadır, çünkü giriş verileri bu şirket tarafından insanlar tarafından kontrol edilmekte, taranmakta ve hatta etiketlenmektedir, bu nedenle yukarıdaki riskler sınırlı kalmıştır. Ancak, gelecekte bu hizmet genişlemeye devam ettikçe ve ek giriş verilerine olan talep önemli ölçüde arttıkça, veri kontrolü riskleri üreticilerin daha sıkı güvenlik önlemleri almasını gerektirecektir.

Yapay zeka yazılımları, çekici ve yaratıcı görseller oluşturma yeteneği de dahil olmak üzere birçok fayda sağlayabilir, ancak sorumsuzca kullanıldığında "iki ucu keskin bir kılıç" haline gelebilir. Hanoi Şehir Polisi Siber Güvenlik ve Yüksek Teknoloji Suç Önleme Departmanı, insanlara şunları öneriyor:

1. Kesinlikle Vietnam haritasının veya yanlış, yasal düzenlemeleri ihlal eden veya Vietnam gelenek, görenek ve kültürüyle uyuşmayan görseller oluşturmayın ve kullanmayın.

2. Düşman güçlerin plan ve oyunlarını önlemek ve farkındalığı artırmak için akrabalarınız, arkadaşlarınız ve toplumla düzenli olarak uyarıcı bilgiler paylaşın. Ülkedeki önemli siyasi olayların istismar edilerek yasadışı eylemlerde bulunulmasına izin vermeyin.

3. Kişisel verilerinizin toplanması riskinden kaçınmak için doğrulanmamış yapay zeka uygulamalarını yüklerken ve kullanırken dikkatli olun.

4. Sosyal ağlardaki etkinliklere katılırken kendinize ve topluma karşı sorumluluk duygusuna sahip olun.

İhlaller kanun hükümlerine göre titizlikle ele alınacaktır.

Bir kullanıcı olarak, her bireyin siber uzaya katılırken net bir sorumluluk duygusuna sahip olması gerekir. "Trendleri yakalamak", cehalet veya istemeden de olsa yanlışları desteklemekle değiştirilmemelidir. Medyanın görevi ise sadece haber vermek değil, aynı zamanda kamuoyunu yönlendirerek gerçeğin ve ulusal değerlerin korunmasına katkıda bulunmaktır.

Kaynak: https://khoahocdoisong.vn/can-trong-voi-anh-tao-tu-ai-khi-an-ninh-thong-tin-bi-de-doa-post2149050868.html