Kaspersky, siber suçluların karanlık yapay zeka kullanarak saldırı düzenleyebileceği konusunda uyarıyor

Kaspersky güvenlik şirketi temsilcisi, siber suçluların Karanlık Yapay Zeka kullanarak saldırı düzenlemeleri hakkında bilgi veriyor

Karanlık yapay zeka, güvenlik normlarının dışında çalışır ve sıklıkla yakın denetim olmaksızın dolandırıcılık, manipülasyon, siber saldırılar veya veri madenciliği gibi davranışlara olanak tanır.

"Kötü niyetli kişiler, saldırı yeteneklerini geliştirmek için yapay zekayı da kullanıyor. Yapay zekanın günümüzde en yaygın suistimali, Black Hat GPT modellerinin ortaya çıkmasıdır. Bunlar, kötü amaçlı yazılım oluşturma, kimlik avı e-postaları yazma, sesler ve deepfake videolar oluşturma gibi yasa dışı amaçlara hizmet etmek üzere özel olarak geliştirilmiş veya uyarlanmış yapay zeka modelleridir..." diyor Kaspersky'de Orta Doğu, Türkiye, Afrika ve Asya- Pasifik'ten sorumlu Küresel Araştırma ve Analiz Ekibi (GReAT) Başkanı Sergey Lozhkin.

Black Hat GPT'leri tamamen özel veya yarı özel yapay zeka modelleri olarak mevcut olabilir. Bunlardan bazıları arasında WormGPT, DarkBard, FraudGPT ve Xanthorox bulunur; hepsi siber suç, dolandırıcılık ve kötü amaçlı otomasyon için tasarlanmıştır.

Lozhkin, Kaspersky uzmanlarının artık ulus-devlet veya hükümet destekli siber saldırı gruplarının saldırı kampanyalarında büyük dil modelleri (LLM) kullanmaya başlamasıyla daha da endişe verici bir eğilim tespit ettiğini açıkladı.

Lozhkin, "OpenAI, yapay zeka araçlarını kullanan 20'den fazla gizli etki kampanyası ve siber saldırıyı engellediğini yakın zamanda duyurdu. Yapay zekayı silah olarak kullanan ve hem kamu hem de özel ekosistemlerde tehdit oluşturan giderek daha gelişmiş saldırganlar göreceğiz. Bu, tüm kuruluşların hazırlıklı olması gereken endişe verici bir eğilim," dedi.

OpenAI'nin bir raporuna göre, kötü niyetli kişiler, kurbanları aldatmak ve geleneksel güvenlik katmanlarını atlatmak için büyük makine öğrenimi modellerinin (LLM) yeteneklerinden yararlanmaya başladı. Bu modeller, ikna edici sahte mesajlar oluşturabilir, kurbanlara toplu mesajlar gönderebilir ve birden fazla dilde içerik üretebilir.

Kaspersky uzmanları, Karanlık Yapay Zeka tehditlerine karşı savunmayı güçlendirmek için şunları öneriyor: Yapay zeka kaynaklı kötü amaçlı yazılımları tespit etmek ve tedarik zincirindeki riskleri kontrol altına almak için Kaspersky Next gibi yeni nesil güvenlik çözümlerinin kullanılması. Yapay zeka kaynaklı saldırıları izlemek için gerçek zamanlı tehdit istihbarat araçlarının uygulanması. Gölge Yapay Zeka'yı ve veri sızıntısı riskini sınırlamak için erişim kontrollerinin ve çalışan eğitimlerinin güçlendirilmesi. Tehditleri izlemek ve olaylara hızlı müdahale etmek için bir Güvenlik Operasyon Merkezi (SOC) kurulması.

BA TAN

Kaynak: https://www.sggp.org.vn/kaspersky-canh-bao-toi-pham-mang-dung-dark-ai-tan-cong-post808493.html