Bilgi güvenliği tehdit altında olduğunda yapay zeka tarafından oluşturulan görüntülere dikkat edin

Hızlı teknolojik gelişmelerin yaşandığı bir çağda, yapay zekâ (YZ) kullanarak görsel oluşturma eğilimi sosyal medya platformlarında yaygınlaşıyor ve özellikle gençler olmak üzere birçok kullanıcının ilgisini çekiyor. Yapay zekâ ile oluşturulan fotoğraflar son derece yaratıcı olup, eğlence, içerik kişiselleştirme ve kişiliği ifade etme amacına hizmet ediyor. Ancak bu çekiciliğin ardında, güvenlik ve bilgi güvenliğiyle ilgili potansiyel riskler yatıyor.

Eğlence mi yoksa potansiyel bir tetikleyici mi?

Hanoi Polisi'ne göre, son zamanlarda yapay zekâ (YZ) kullanarak görüntü oluşturma eğilimi yaygınlaştı ve bu durum birçok kullanıcının dikkatini çekti. Çoğunlukla eğlence amaçlı olsa da, bu görüntülerin yayılması, özellikle Ağustos Devrimi'nin 80. yıldönümü ve ülkenin 2 Eylül Ulusal Günü'nde güvenlik ve bilgi güvenliğini doğrudan etkileyen birçok risk oluşturuyor.

Günümüzde kullanıcılar, yapay zekâ yazılımları aracılığıyla kolayca görsellere erişip oluşturabiliyor ve bu görselleri avatar olarak kullanabiliyor, Zalo, Tiktok, Facebook gibi sosyal ağlara haber ve makaleler yerleştirebiliyor. Ancak kullanıcılar dikkatli olmaz, politik açıdan duyarsız davranır ve yapay zekâ tarafından oluşturulan görselleri kontrol etmezlerse, Hoang Sa ve Truong Sa takımadaları hakkında bilgi içermeyen Vietnam haritası görselleri gibi Vietnam halkına uygun olmayan hatalı görseller kullanabilirler. Bu hatalı görsellerin kullanılması, siber uzayda kamuoyunu büyük ölçüde etkileyecek ve sınır egemenliği, tarih ve ulusal kültürel gelenekler konusunda yanlış bir algı oluşmasına neden olacaktır.

Yapay zeka, Hoang Sa ve Truong Sa takımadalarının bulunmadığı bir Vietnam haritasının basılı olduğu bir ao dai görüntüsü oluşturuyor. (Fotoğraf: Hanoi Şehir Polisi)

Hanoi'deki bir sosyal medya kullanıcısı, yapay zeka yazılımı kullanarak üzerine Vietnam haritası basılmış bir ao dai fotoğrafı oluşturdu ve ardından "ulusal gurur" akımına yanıt olarak TikTok'ta paylaştı. Ancak yapay zeka tarafından oluşturulan fotoğrafta Paracel ve Spratly Adaları yoktu. Gönderi hızla viral oldu ve binlerce görüntüleme ve paylaşım aldı, ancak çevrimiçi topluluktan da sert bir tepkiyle karşılaştı. Yetkililer, içeriğin kaldırılmasını talep ederek ve ulusal egemenlikle ilgili yanlış bilgilerin yayılmasına karşı uyararak harekete geçti.

Yetkililerden uyarı

Vietnam Ulusal Siber Güvenlik Teknolojileri Şirketi - NCS Teknik Direktörü Bay Vu Ngoc Son'a göre, son zamanlarda yapay zeka ve yapay zeka tabanlı uygulamalar hayatın birçok alanında hızla gelişiyor. ChatGPT, aslında BT uzmanı olmayan çoğu kişinin kolayca erişebildiği bir uygulama olduğu için hızla yaygınlaştı.

Teknoloji açısından ChatGPT, mevcut diğer yapay zeka tabanlı teknolojilerle karşılaştırıldığında çığır açıcı bir gelişme olmasa da, veri açısından ChatGPT, birçok alanda büyük miktarda veriye dayandığında oldukça başarılı olmuş ve kullanıcılara "her şeyi bildiklerini" hissettirmiştir. ChatGPT'nin bugüne kadarki cazibesi de budur.

Güvenlik açısından, ChatGPT'nin kendisi soru-cevap hizmetleri sunmak için yaratılmıştır, bu nedenle en büyük risk, ChatGPT'nin kullanıcılara yanıtladığı içeriğin, ChatGPT'nin yanlış bilgi vermesini sağlamak için birileri tarafından kontrol edilip "zehirlenip zehirlenmeyeceği" olacaktır. Şu anda ChatGPT'nin saldırıya uğrayabileceğine dair bir kanıt bulunmamaktadır, çünkü giriş verileri bu şirket tarafından insanlar tarafından kontrol edilmekte, taranmakta ve hatta etiketlenmektedir, bu nedenle yukarıdaki riskler sınırlı kalmıştır. Ancak gelecekte, bu hizmet genişlemeye devam ettikçe, daha fazla giriş verisine olan ihtiyaç önemli ölçüde artacak ve veri kontrolü riskleri, üreticilerin daha sıkı güvenlik önlemleri almasını gerektirecektir.

Yapay zeka yazılımları, çekici ve yaratıcı görseller oluşturma yeteneği de dahil olmak üzere birçok fayda sağlayabilir, ancak sorumsuzca kullanıldığında "iki ucu keskin bir kılıç" haline gelebilir. Hanoi Şehir Polisi Siber Güvenlik ve Yüksek Teknoloji Suç Önleme Departmanı, kullanıcılara şunları öneriyor:

1. Kesinlikle Vietnam haritasının veya yanlış, yasayı ihlal eden veya Vietnam gelenek, görenek ve kültürüyle uyuşmayan görseller oluşturmayın ve kullanmayın.

2. Düşman güçlerin plan ve oyunlarını önlemek ve farkındalığı artırmak için akrabalarınız, arkadaşlarınız ve toplumla düzenli olarak uyarıcı bilgiler paylaşın. Ülkedeki önemli siyasi olayların istismar edilerek yasadışı eylemlerde bulunulmasına izin vermeyin.

3. Kişisel verilerinizin toplanması riskinden kaçınmak için doğrulanmamış yapay zeka uygulamalarını yüklerken ve kullanırken dikkatli olun.

4. Sosyal ağlardaki etkinliklere katılırken kendinize ve topluma karşı sorumluluk duygusuna sahip olun.

İhlaller kanun hükümlerine göre titizlikle ele alınacaktır.

Bir kullanıcı olarak, her bireyin siber uzaya katılırken net bir sorumluluk duygusuna sahip olması gerekir. "Trendleri yakalamak", cehalet veya istemeden de olsa yanlışları desteklemekle değiştirilmemelidir. Medyanın görevi ise sadece haber vermek değil, aynı zamanda kamuoyunu yönlendirerek gerçeğin ve ulusal değerlerin korunmasına katkıda bulunmaktır.

Yorum (0)