Suçluların 'karanlık yapay zeka'ya sahip olmasının tehlikesi

Siber saldırılara özel olarak eğitilen yapay zeka araçları giderek daha etkili hale geliyor ve bunlara karşı koymak daha karmaşık hale geliyor.

Yapay zeka, siber suçlular için güçlü bir yardımcı haline geliyor. Fotoğraf: Cato Networks .

Sadece sıradan kullanıcılar değil, siber suçlular da yapay zekayı her zamankinden daha karmaşık saldırılar oluşturmak için giderek daha fazla kullanıyor. 2 yıldan kısa bir sürede, bilgisayar korsanlarını destekleyen yapay zeka araçları, özellik ve verimlilik açısından hızla gelişti.

Kaspersky Asya ve Japonya (APJ) Direktörü Adrian Hia, karanlık yapay zekanın kötü amaçlı yazılımların hızla yaygınlaşmasında büyük rol oynadığını söyledi. Kaspersky'nin verileri, her gün yaklaşık yarım milyon kötü amaçlı yazılım parçasının oluşturulduğunu gösteriyor.

Bay Hia, "Karanlık Yapay Zeka, karanlık web'e benziyor; her gün kullandığımız web'in karanlık tarafı," dedi.

Kaspersky'nin Asya- Pasifik (APAC) ve Orta Doğu, Afrika, Türkiye (META) Küresel Araştırma ve Analiz Ekibi (GReAT) Başkanı Sergey Lozhkin, Karanlık Yapay Zeka'nın ChatGPT veya Gemini gibi geleneksel yapay zeka sohbet robotlarından tamamen farklı olduğunu söyledi.

Kullanıcıların aşina olduğu yapay zeka, kullanıcılara yardımcı olmak ve meşru görevleri yerine getirmek için yaratılmıştır ve kötü amaçlı yazılım oluşturmaları veya yasadışı faaliyetlerde bulunmaları emredilse bile, kullanıcılar hedeflerine ulaşmakta zorluk çekecektir.

Bu arada, Bay Lozhkin, Karanlık Yapay Zeka'nın "aslında yalnızca siber uzayda kötü amaçlı faaliyetlerde bulunmak için tasarlanmış LLM veya sohbet robotları" olduğunu söyledi. Bu yapay zekalar, kötü amaçlı yazılım, kimlik avı içeriği veya hatta siber suçluların dolandırıcılık için kullanabileceği eksiksiz bir çerçeve oluşturmak üzere eğitiliyor.

Sadece saygın bilgisayar korsanları için gizli yapay zeka sistemi

Lozhkin'in Black Hat GPT veya "black hat GPT" olarak adlandırdığı bu sistemler 2023'ten beri varlığını sürdürüyor. Kaspersky yetkilileri, o dönemde yapay zekanın çok basit olduğunu, çok kötü kodlar ürettiğini ve anında tespit edilebildiğini söyledi.

Ancak son zamanlarda, kötü amaçlı yazılım ve sahte içerik oluşturmaktan ses ve video taklit etmeye kadar birçok işlevi yerine getirebilen kara şapkalı GPT sistemleri daha kapsamlı hale geldi. WormGPT, DarkBard veya FraudGPT gibi bazı isimler de bulunmaktadır.

Kaspersky araştırmacısı Sergey Lozhkin, Karanlık Yapay Zeka'nın kalitesinin giderek arttığı konusunda uyarıyor. Fotoğraf: Minh Khoi.

Kaspersky'nin en rahatsız edici keşiflerinden biri, yalnızca saygın siber suçluların erişebildiği özel Karanlık Yapay Zeka sistemlerinin varlığıydı. Bu özel yapay zeka sistemlerine erişim sağlamak için, bilgisayar korsanlarının yeraltı forumlarında itibar kazanmaları gerekiyor.

Kaspersky uzmanı, "Bu tür sistemlere yalnızca güvenilirseniz erişebilirsiniz. Bu yardımcılara erişmek için yeraltı forumlarında itibar kazanmanız gerekiyor," dedi.

Lozhkin, Kaspersky'nin yeraltı forumlarına sızmak ve faaliyetleri izlemek ve takip etmek için yıllarca çalışan bir "Dijital Ayak İzi İstihbaratı" birimine sahip olduğunu söyledi. Şirket yeni sistemlere eriştikten sonra, Karanlık Yapay Zeka'nın nasıl kullanıldığını, işlevlerini ve etkinliğini anlamak için çok zaman harcamaya devam ediyor.

Karanlık AI güçleniyor

Karanlık Yapay Zeka, yetenekli bilgisayar korsanları için etkili bir araç haline geliyor. Sadece temel programlama bilgisine sahip olanlar için, bir fidye yazılımı oluşturucusuna başvurmak, yalnızca antivirüs tarafından kolayca tanınabilen yazılımlar oluşturabilir. Ancak, yetenekli ve deneyimli bilgisayar korsanları için Karanlık Yapay Zeka, kodlama verimliliğini artırarak yeni kötü amaçlı yazılımlar oluşturabilir.

"Bu kalite, her platforma veya Karanlık Yapay Zeka'ya göre büyük ölçüde değişir. Bazıları çok düşük kaliteli kod üretir, ancak 10 üzerinden 7-8 puan alabilen araçlar da vardır," diye belirtti Bay Lozhkin , Tri Thuc - Znews'e .

Bir örnek, polimorfik kod oluşturma yeteneğidir. Daha önce, bir antivirüs programı kötü amaçlı bir kod parçası tespit ettiğinde, bilgisayar korsanlarının kodu değiştirmek için çok zaman harcaması gerekiyordu. Şimdi ise Karanlık Yapay Zeka, tespit edilmesi daha zor bir sürüm oluşturmak için bunu "neredeyse anında" yapabiliyor.

Ayrıca, karanlık LLM'ler kimlik avı saldırılarında dil engelini aşıyor. Kaspersky uzmanları, yeni nesil kimlik avı e-postalarının neredeyse kusursuz İngilizceleri nedeniyle fark edilmesinin daha zor olduğunu, hatta "CEO'nun sesine tıpatıp benzeyebildiğini" söylüyor.

Bazı "hepsi bir arada" Karanlık Yapay Zeka sistemleri kod üretebiliyor, ses taklidi yapabiliyor ve kimlik avı e-postaları gönderebiliyor. Fotoğraf: Kaspersky.

Uzmanlaşmış Karanlık Yapay Zeka sisteminin sahte ses ve görüntü oluşturma yeteneği de giderek daha mükemmel hale geliyor. Bay Lozhkin, güvenlik görevlisi olarak edindiği deneyim sayesinde "artık görüntülü görüşmelere inanmadığını" bile söyledi.

Ancak Kaspersky uzmanları, kullanıcıların kişisel davranışları, konuşma alışkanlıkları ve bazı benzersiz özellikleri aracılığıyla dolandırıcılık amaçlı bir aramayı hala anlayabildiğini söylüyor.

Güvenlik araştırmacısı Tri Thuc – Znews'e yaptığı açıklamada, "Bu özelliklerin sahtesini yapmak zordur, bu nedenle sahte olduğuna inandığınız kişiyle doğrudan iletişime geçmeye çalışın" dedi.

"Yapay zeka silahlanma yarışı"

Karanlık Yapay Zeka'nın gelişimi, siber suçlular ve siber güvenlik uzmanları arasında teknolojik bir silahlanma yarışına yol açtı. Lozhkin, "Artık yapay zekayı her şey için kullanıyorum - araştırma, programlama, tersine mühendislik. Bu yılki üretkenliğim öncekinden 10-20 kat daha yüksek," diye itiraf ediyor.

"Savunma mekanizması oluşturmak için yapay zekayı kullanmazsanız ve kötü adamlar saldırmak için yapay zekayı kullanırsa, kaybedersiniz. Bu, yapay zekayı kullanan iyi adamlar ile kötü adamlar arasında bir yarışın başlangıcıdır," diye uyardı.

Kaspersky APJ Direktörü Adrian Hia, Karanlık Yapay Zeka'nın kötü amaçlı yazılımların daha hızlı oluşturulmasına yardımcı olduğunu söyledi. Fotoğraf: Minh Khoi.

Google, ChatGPT kullanarak kötü amaçlı yazılım oluşturmaya ve saldırı planlamaya çalışan devlet destekli grupların 20'den fazla kötü amaçlı etkinliğini engellediğini bildirdi. 2024 yılında, yapay zeka modelleri kullanan 40 devlet destekli APT grubu tespit ettiler.

Özellikle Xanthorox gibi tam teşekküllü çerçeveler endişe verici. Bu çerçeveler, ayda 200 dolara "tam paket" hizmeti sunuyor ve ses oluşturma, kimlik avı e-postaları ve diğer saldırı araçlarını kullanımı kolay bir arayüzde birleştiriyor.

Kaspersky uzmanları, Karanlık Yapay Zeka'nın henüz emekleme aşamasında olduğu konusunda uyarıyor. Adrian Hia, önümüzdeki birkaç yıl içinde kullanım maliyetinin çok daha düşük olacağını öngörüyor ve ne kadar gelişeceği henüz bilinmiyor.

"Ama kesinlikle emin olduğum şey şu ki, hazır olacağız, çünkü aynı şeyi zıt taraftan yapıyoruz," diye yorumladı Bay Lozhkin.

Kaynak: https://znews.vn/moi-nguy-khi-toi-pham-so-huu-ai-den-post1574400.html