Yapay zekanın oluşturduğu doğal afetlerle ilgili sahte içerik tehdidi konusunda uyarı

Yapay zekâ (YZ) tarafından üretilen giderek daha gerçekçi videolar, sel felaketleri sırasında yayılan sahte içeriklerin artışında önemli bir etken olup, kamuoyunda kafa karışıklığına ve yaygın paniğe yol açarak ulusal bilgi güvenliğini tehdit ediyor.

Bu, iklim değişikliğinin etkisiyle meydana gelen doğal afetlerin sayısının artması bağlamında Malezyalı bir güvenlik uzmanının uyarısıdır.

MARA Teknoloji Üniversitesi'nde (UiTM) savaş, güvenlik ve siyaset analisti olan Dr. Noor Nirwandy Mat Noordin, halkın yapay zeka tarafından üretilen video ve görsellere karşı oldukça hassas olduğunu söyledi. İnsanlar artık herkesin sel, kasırga veya diğer afetlerle ilgili son derece ikna edici video ve görseller oluşturabildiği yeni bir çağla karşı karşıya.

Kontrol altına alınmadığı takdirde, insanlar sosyal medya platformlarında dolaşan sahte içeriklere farkında olmadan inanıp, özellikle kriz zamanlarında yanlış anlatıların veya algıların oluşmasına katkıda bulunarak bilgi karmaşasına yol açabilir. Bu nedenle, Dr. Noor'a göre, gerçek kontrolü kültürel bir norm haline gelmeli ve halk, aldıkları bilgilerin doğru olduğundan emin olmak için gerçek kontrol platformlarını kullanmalıdır.

Ayrıca yapay zeka tabanlı bilgi manipülasyonunun kamuoyunun algısını etkileyebileceği, tepkilerini etkileyebileceği, kamu düzenini ve ulusal güvenliği baltalayabileceği konusunda uyardı.

Dr. Noor, Malezya'nın bilgi akışının daha düzenli ve doğru olmasını sağlamak için ulusal bir afet bilgi merkezi ve özel bir afet bilgi inceleme birimi kurmasını önerdi. Ayrıca, güvenlik güçleri kurtarma koordinasyonunu geliştirmeye odaklanırken, halkın hazırlıklı olmasına yardımcı olmak için periyodik bir referans olarak ulusal bir afet takvimi de geliştirilmelidir.

Bu görüşe katılan suç analisti Shahul Hamid, doğal afetler hakkında sahte bilgi üretme ve yayma eyleminin artık acil durum yönetimi için yeni bir tehdit olarak tanımlandığını, çünkü mevcut görüntüleme teknolojisinin sadece birkaç dakika içinde inanılmaz derecede gerçekçi sel görüntüleri oluşturabildiğini vurguladı.

Olayın bir "bilgi felaketine" yol açtığını ve sadece fiziksel hasarla sınırlı kalmayıp gerçek bilgiyi de bozarak paniğe, kafa karışıklığına ve gerçek iletişimin engellenmesine yol açan etkilere neden olduğunu söyledi.

Shahul Hamid, halkın dijital okuryazarlığının düşük kalması durumunda sorunun daha da kötüleşebileceği konusunda uyardı. Sahte görüntülerin yayılması, itfaiye ve polis teşkilatlarının kurtarma operasyonlarını da aksatabilir; çünkü kaynaklar yanlış yerlere yönlendirilirken gerçek etkilenen bölgeler göz ardı edilebilir. Bu durum, kaynakların israfı, müdahalelerin gecikmesi ve koordinasyon eksikliği riskini artırır.

Shahul Hamid'e göre, acil durum hatları da halkın videonun gerçekliğini doğrulamak için sürekli aramaları nedeniyle aşırı yüklenme riskiyle karşı karşıya ve bu da önemli çağrıların cevapsız kalması anlamına geliyor. Ayrıca, resmi açıklamalarla çelişen bilgilerin yayılması, kamuoyunun kurumlara ve gönüllü ekiplere olan güvenini de zedeliyor.

Ayrıca sahte yapay zeka görüntüleri, sahte bağış toplama, kamuoyunun empatisini sömürme ve duyguları manipüle etme gibi dolandırıcılık amaçlı da kullanılabiliyor ve dijital güvenlik tehditlerine yeni boyutlar katıyor.

Kamuoyunun gerçek içerikle yapay zeka tarafından üretilen videoları ayırt etmesi giderek zorlaştıkça, dijital okuryazarlık eğitiminin eksikliği ve felaketler sırasında toplumsal psikolojik güçlendirmenin eksikliği, birçok kişinin dramatik içeriklere inanma olasılığını artıracaktır; özellikle de sosyal medya algoritmaları genellikle sansasyonel içeriklere öncelik verdiğinde ve sahte videoların resmi bilgilerden daha hızlı yayılmasına neden olduğunda.

Shahul Hamid, felaketle ilgili içeriği doğrulayacak hızlı bir referans merkezinin olmamasının, halkı dolandırıcılığa karşı savunmasız bırakacağını vurguladı.

Bernama'nın TikTok ve Instagram'da yaptığı bir anket, birçok eyaleti etkileyen muson mevsiminin ardından daha fazla yapay zeka destekli videonun ortaya çıktığını ortaya koydu. Bulunan sahte içerikler arasında timsahların ortaya çıkışı, kaplanların köylere girişi, zehirli hayvanlar ve sel sırasında meydana geldiği tasvir edilen sıra dışı durumlar yer alıyordu.

Şiddetli sel baskınlarına ait pek çok sahte video çok gerçekçi görünüyor ve çok hızlı yayılıyor. Bu da pek çok kullanıcının bunların gerçek görüntülerden alındığına inanmasına neden oluyor, ancak bunlar tamamen yapay zeka tarafından oluşturulmuş videolar.

(TTXVN/Vietnam+)

Kaynak: https://www.vietnamplus.vn/canh-bao-moi-de-doa-tu-nhung-noi-dung-gia-mao-ve-thien-tai-do-ai-tao-ra-post1080179.vnp