ChatGPT ve bir dizi yapay zeka asistanında ciddi güvenlik açığı: Kullanıcılar dolandırılıyor ve bilgileri sızdırılıyor...

ChatGPT - Ảnh 1. — 'Sıfır Tıklama' güvenlik açığı, bilgisayar korsanlarının ChatGPT'yi istedikleri gibi hareket ettirebilmelerine bile olanak tanıyor - Resim: AFP

İsrailli siber güvenlik şirketi Zenity, OpenAI'nin ChatGPT hizmetinde keşfedilen ilk "Sıfır Tıklama" güvenlik açığını açıkladı.

Bu tür saldırılar, kullanıcıların bağlantılara tıklama, dosya açma veya herhangi bir kasıtlı etkileşimde bulunma gibi eylemler gerçekleştirmesini gerektirmez, ancak yine de hesaplara erişim sağlayabilir ve hassas verileri sızdırabilir.

Zenity'nin kurucu ortağı ve CTO'su Mikhail Bergori, bir bilgisayar korsanının, yalnızca kullanıcının e-posta adresine sahip olarak, geçmiş ve gelecekteki içerik de dahil olmak üzere konuşmaları tamamen nasıl kontrol edebileceğini, konuşmaların amacını nasıl değiştirebileceğini ve hatta ChatGPT'yi bilgisayar korsanının isteklerine göre hareket edecek şekilde nasıl manipüle edebileceğini doğrudan açıkladı.

Araştırmacılar sunumlarında, ele geçirilmiş bir ChatGPT'nin kullanıcılara karşı gizlice çalışan "kötü amaçlı bir ajan" haline gelebileceğini gösterdiler. Hackerlar, ChatGPT'nin kullanıcılara virüs bulaşmış yazılım indirmeyi önermesine, yanıltıcı iş tavsiyeleri vermesine veya kullanıcının hesabı bağlıysa Google Drive'da depolanan dosyalara erişmesine neden olabilir. Tüm bunlar kullanıcının bilgisi olmadan gerçekleşir.

Güvenlik açığı, Zenity'nin OpenAI'yi bilgilendirmesinin ardından tamamen giderildi.

Zenity, ChatGPT'ye ek olarak, diğer popüler yapay zeka asistan platformlarını hedef alan benzer saldırıları da simüle etti. Microsoft'un Copilot Studio'sunda araştırmacılar, tüm CRM veritabanlarının nasıl sızdırılabileceğini keşfetti.

Salesforce Einstein örneğinde, bilgisayar korsanları sahte hizmet talepleri oluşturarak tüm müşteri iletişimlerini kendi kontrolleri altındaki e-posta adreslerine yönlendirebilirler.

Google Gemini ve Microsoft 365 Copilot da "düşman ajanlar" haline getirilerek kimlik avı dolandırıcılığı yaptılar ve e-postalar ve takvim etkinlikleri aracılığıyla hassas bilgileri sızdırdılar.

Bir başka örnekte ise, Jira MCP ile entegre edilen Cursor yazılım geliştirme aracı, sahte "biletler" aracılığıyla programcıların giriş bilgilerini çalmak için de kötüye kullanılmıştır.

Zenity, OpenAI ve Microsoft gibi bazı şirketlerin uyarı aldıktan sonra hızla yamalar yayınladığını belirtti. Ancak bazı şirketler, keşfedilen davranışın bir güvenlik açığı değil, "tasarım özelliği" olduğunu iddia ederek sorunu ele almayı reddetti.

Mikhail Bergori'ye göre, günümüzün en büyük zorluğu, yapay zekâ asistanlarının sadece basit görevleri yerine getirmekle kalmayıp, kullanıcıları temsil eden "dijital varlıklar" haline gelmesi; klasör açabilme, dosya gönderebilme ve e-postalara erişebilme yeteneğine sahip olmalarıdır. Bunun, çok fazla güvenlik açığı nedeniyle, bilgisayar korsanları için adeta bir "cennet" olduğunu belirtiyor.

Zenity'nin kurucu ortağı ve CEO'su Ben Kaliger, şirketin araştırmalarının mevcut güvenlik yöntemlerinin yapay zekâ asistanlarının çalışma şekli için artık yeterli olmadığını gösterdiğini vurguladı. Kuruluşları yaklaşımlarını değiştirmeye ve bu "ajanların" faaliyetlerini kontrol etmek ve izlemek için özel çözümlere yatırım yapmaya çağırdı.

Zenity 2021 yılında kurulmuştur. Şirketin şu anda dünya çapında yaklaşık 110 çalışanı bulunmakta olup, bunların 70'i Tel Aviv ofisinde çalışmaktadır. Zenity'nin müşterileri arasında birçok Fortune 100 şirketi ve hatta Fortune 5 şirketi yer almaktadır.

Yorum (0)