Yeni çağda yapay zekâ için birçok zorluk var.

Yapay zekâ daha erişilebilir hale geldikçe ve daha fazla birey ve işletme ortak araçlar aracılığıyla yapay zekâyı kullandıkça, bilgisayar korsanları aynı anda saldırıları otomatikleştirebilir, operasyonel süreçleri hızlandırabilir ve yasa dışı hedeflerine ulaşmak için daha karmaşık kampanyalar yürütebilirler.

Kaspersky, yapay zekâ destekli siber saldırı türlerini ortaya çıkardı.

Kaspersky'nin gözlemlediği saldırı yöntemlerinden bazıları şunlardır: ChatGPT, kötü amaçlı yazılım geliştirmek ve birden fazla kurbana otomatik olarak saldırı düzenlemek için kullanılabilir; yapay zeka programları akıllı telefonlardaki kullanıcı verilerine sızar ve hassas verilerin analizi yoluyla saldırganlar kurbanlardan mesajları, şifreleri ve banka kodlarını tamamen "çalabilir"; Sürü zekası algoritmaları, güvenlik çözümleri tarafından ortadan kaldırılan kötü amaçlı ağların bilgisayar ağları tarafından otomatik olarak (bonet) kurtarılmasına yardımcı olur.

Kaspersky'nin yapay zekayı kullanarak parola kırma üzerine yaptığı araştırmalar, çoğu parolanın MD5 ve SHA gibi karma algoritmaları kullanılarak şifrelendiğini gösteriyor. Bu nedenle, basit bir işlemle parola şifrelenmiş bir metin satırına dönüştürülebilir, ancak tüm süreci tersine çevirmek önemli bir zorluktur.

Yapay zekâ sayesinde, kötü niyetli kişiler metin, resim, ses ve video dahil olmak üzere sahte içerikleri kullanarak teknik olmayan saldırılar başlatabiliyor. ChatGPT-4o gibi büyük dil modelleri, son derece karmaşık kimlik avı senaryoları ve mesajları oluşturmak için kullanılıyor. Dil engellerini aşan yapay zekâ, yalnızca sosyal medyadan elde edilen bilgilere dayanarak görünüşte gerçek bir e-posta yazabiliyor. Hatta kurbanın yazı stilini bile taklit edebiliyor, bu da dolandırıcılığı tespit etmeyi daha da zorlaştırıyor.

Bu arada, Deepfake teknolojisi, daha önce bilimsel araştırmaların bir ürünü olarak kabul edilmesine rağmen, siber güvenlikte bir "sorun" olarak ortaya çıktı. Ünlüleri taklit ederek maddi kazanç elde etmek en yaygın yöntemdir; ayrıca dolandırıcılar Deepfake'i kullanarak hesapları çalıyor ve kurbanların arkadaşlarına ve akrabalarına sahte aramalar yaparak para gasp ediyorlar.

Kötü niyetli kişiler, yapay zekâ teknolojisini yasadışı faaliyetler için istismar etmenin yanı sıra, yapay zekâ algoritmalarına da saldırabilirler. Bu, kötü amaçlı komutların büyük dil modellerine enjekte edildiği ve daha önce kısıtlanmış kurallara bile aykırı hareket edildiği "komut enjeksiyonu" saldırılarını; ve makine öğrenimi sistemlerinin görüntü sınıflandırma yeteneklerini etkilemek için görüntülere veya seslere gizli bilgi alanlarının eklendiği düşmanca saldırıları içerir.

Yapay zekâ, Apple Intelligence ve Google Gemini'den Microsoft Copilot'a kadar insan yaşamının her alanına giderek daha fazla entegre oluyor. Bu nedenle, yapay zekâ güvenlik açıklarının ele alınması en önemli öncelik olmalıdır. Kaspersky, uzun yıllardır müşterilerini ve ortaklarını korumak için yapay zekâ teknolojisini kullanıyor, dayanıklılıklarını artırmak için yapay zekâ sistemlerindeki güvenlik açıklarını sürekli olarak arıyor ve yapay zekâ tabanlı saldırılara karşı güvenilir koruma sağlamak için siber saldırı tekniklerini aktif olarak araştırıyor.

KIM THANH

Kaynak: https://www.sggp.org.vn/nhieu-thach-thuc-cua-ai-trong-thoi-dai-moi-post754401.html