Yeni çağda yapay zekanın birçok zorluğu var

Yapay zeka daha erişilebilir hale geldikçe, giderek daha fazla kişi ve işletme ortak araçlar aracılığıyla yapay zekayı kullandıkça... bilgisayar korsanları da saldırıları otomatikleştirebilir, operasyonları hızlandırabilir ve yasa dışı hedeflerine ulaşmak için daha karmaşık kampanyalar uygulayabilir.

Kaspersky, yapay zeka kullanan siber saldırı türlerini açıkladı

Kaspersky'nin gözlemlediği saldırı türleri şunlardır: ChatGPT, kötü amaçlı yazılım geliştirmek ve saldırıları birden fazla kurbana otomatik olarak dağıtmak için kullanılabilir; Yapay zeka programları, akıllı telefonlardaki kullanıcı verilerine sızar ve hassas verileri analiz etme süreciyle kurbanların mesajlarını, parolalarını ve bankacılık kodlarını tamamen "okuyabilir"; Sürü istihbarat algoritmaları, güvenlik çözümleri tarafından ortadan kaldırılan kötü amaçlı ağların otomatik bilgisayar ağları (bonet'ler) tarafından geri yüklenmesine yardımcı olur.

Kaspersky'nin parolaları kırmak için yapay zeka kullanımı üzerine yaptığı araştırma, çoğu parolanın MD5 ve SHA gibi karma algoritmaları kullanılarak şifrelendiğini gösteriyor. Basit bir işlem, parolayı bir şifreli metin akışına dönüştürebilir, ancak işlemi tersine çevirmek büyük bir zorluktur.

Yapay zeka aracılığıyla kötü niyetli kişiler, metin, resim, ses ve video gibi sahte içeriklerden yararlanarak sosyal mühendislik saldırıları başlatabilir. ChatGPT-4o gibi büyük dil modelleri, son derece karmaşık kimlik avı betikleri ve mesajları oluşturmak için kullanılır. Dil engellerini aşan yapay zeka, yalnızca sosyal ağlardaki bilgilere dayanarak gerçek bir e-posta yazabilir. Hatta kurbanın yazım tarzını bile taklit edebilir. Bu, kimlik avı davranışının tespit edilmesini daha da zorlaştırır.

Deepfake, daha önce bilimsel bir araştırmanın ürünü olarak kabul edilse de, siber güvenlikte bir "sorun" olarak varlığını sürdürüyor. En yaygın yöntem, maddi kazanç elde etmek için ünlüleri taklit etmek. Dolandırıcılar ayrıca Deepfake'i hesap çalmak, kurbanların arkadaşlarına ve akrabalarına sahte aramalar yapmak ve mallarına el koymak için de kullanıyor.

Yapay zeka teknolojisini yasa dışı faaliyetler için kullanmanın yanı sıra, kötü niyetli kişiler yapay zeka algoritmalarına da saldırabilirler. Örneğin, büyük dil modellerine kötü amaçlı komutlar girerek, hatta önceden kısıtlanmış kuralları ihlal ederek "Hızlı Enjeksiyon" saldırıları; makine öğrenimi sisteminin görüntü sınıflandırma yeteneğini etkilemek için görüntü veya seslere gizli bilgi alanları ekleyerek saldırgan saldırılar.

Yapay zeka, Apple Intelligence'dan Google Gemini'ye ve Microsoft Copilot'a kadar insan yaşamının her alanına giderek daha fazla entegre oluyor. Bu nedenle, yapay zeka güvenlik açıklarını gidermek en önemli önceliklerden biri olmalıdır. Kaspersky, müşterilerini ve iş ortaklarını korumak için uzun yıllardır yapay zeka teknolojisini kullanıyor, yapay zeka sistemlerindeki güvenlik açıklarını sürekli olarak araştırıyor, sistemin dayanıklılığını artırıyor ve yapay zeka saldırılarına karşı güvenilir koruma sağlamak için siber saldırı tekniklerini aktif olarak araştırıyor.

KİM THANH

Kaynak: https://www.sggp.org.vn/nhieu-thach-thuc-cua-ai-trong-thoi-dai-moi-post754401.html