İsrailli siber güvenlik firması Zenity, OpenAI'nin ChatGPT hizmetinde keşfedilen ilk "Sıfır Tıklama" güvenlik açığını ortaya çıkardı. Bu tür bir saldırı, kullanıcıların bir bağlantıya tıklamak, bir dosya açmak veya kasıtlı olarak etkileşimde bulunmak gibi herhangi bir işlem yapmasını gerektirmez, ancak yine de hesap erişimi sağlayabilir ve hassas verileri sızdırabilir.
Tel Aviv'deki VNA muhabirine göre, Zenity'nin kurucu ortağı ve CTO'su Mikhail Bergori, bir bilgisayar korsanının, yalnızca kullanıcının e-posta adresine sahip olarak, geçmiş ve gelecekteki içerik de dahil olmak üzere konuşmaları tamamen nasıl kontrol edebileceğini, konuşmaların amacını nasıl değiştirebileceğini ve hatta ChatGPT'yi bilgisayar korsanının isteklerine göre hareket edecek şekilde nasıl manipüle edebileceğini doğrudan açıkladı.
Araştırmacılar sunumlarında, ele geçirilmiş bir ChatGPT'nin kullanıcılara karşı gizlice çalışan "kötü amaçlı bir ajan"a dönüşebileceğini gösterdiler. Hackerlar, chatbot'un kullanıcılara virüs bulaşmış yazılım indirmelerini önermesine, yanıltıcı iş tavsiyeleri vermesine veya kullanıcının hesabı bağlıysa Google Drive'da depolanan dosyalara erişmesine neden olabilirler.
Tüm süreç kullanıcının bilgisi dışında gerçekleşti. Güvenlik açığı ancak Zenity'nin OpenAI'yi bilgilendirmesinin ardından tamamen giderildi.
Zenity, ChatGPT'ye ek olarak, diğer popüler yapay zeka asistan platformlarını hedef alan benzer saldırıları da simüle etti. Microsoft'un Copilot Studio'sunda araştırmacılar, tüm CRM veritabanlarının nasıl sızdırılabileceğini keşfetti.
Salesforce Einstein örneğinde, bilgisayar korsanları sahte hizmet talepleri oluşturarak tüm müşteri iletişimlerini kendi kontrolleri altındaki e-posta adreslerine yönlendirebilirler.
Google Gemini ve Microsoft 365 Copilot da "düşman ajanlar" haline getirilerek, kimlik avı planları yürüttüler ve e-postalar ve takvim etkinlikleri aracılığıyla hassas bilgileri sızdırdılar.
Bir başka örnekte ise, Jira MCP ile entegre edilen Cursor yazılım geliştirme aracı, sahte "biletler" aracılığıyla programcıların giriş bilgilerini çalmak için de kötüye kullanılmıştır.
Zenity, OpenAI ve Microsoft gibi bazı şirketlerin uyarı aldıktan sonra hızla yamalar yayınladığını belirtti. Bununla birlikte, keşfedilen davranışın bir güvenlik açığı değil, "tasarım özelliği" olduğunu iddia ederek sorunu ele almayı reddeden şirketler de vardı.
Mikhail Bergori'ye göre, günümüzün en büyük zorluğu, yapay zekâ asistanlarının sadece basit görevleri yerine getirmekle kalmayıp, kullanıcıları temsil eden "dijital varlıklar" haline gelmesi; klasör açabilme, dosya gönderebilme ve e-postalara erişebilme yeteneğine sahip olmalarıdır. Bunun, istismar edilebilecek çok sayıda güvenlik açığıyla birlikte, bilgisayar korsanları için adeta bir "cennet" olduğunu belirtiyor.
Zenity'nin kurucu ortağı ve CEO'su Ben Kaliger, şirketin araştırmalarının mevcut güvenlik yöntemlerinin yapay zekâ asistanlarının çalışma şekli için artık yeterli olmadığını gösterdiğini vurguladı. Kuruluşları yaklaşımlarını değiştirmeye ve bu "ajanların" faaliyetlerini kontrol etmek ve izlemek için özel çözümlere yatırım yapmaya çağırdı.
Zenity 2021 yılında kurulmuştur. Şirketin şu anda dünya çapında yaklaşık 110 çalışanı bulunmakta olup, bunların 70'i Tel Aviv ofisinde çalışmaktadır. Zenity'nin müşterileri arasında birçok Fortune 100 şirketi ve hatta Fortune 5 şirketi yer almaktadır.
Kaynak: https://www.vietnamplus.vn/israel-canh-bao-tro-ly-ai-co-the-tro-thanh-tac-nhan-doc-hai-tan-cong-nguoi-dung-post1054883.vnp
Yorum (0)