İsrail: Yapay zeka asistanlarının kullanıcılara saldıran kötü niyetli ajanlara dönüşebileceği uyarısı

İsrailli siber güvenlik firması Zenity, OpenAI'nin ChatGPT hizmetinde keşfedilen ilk "Sıfır Tıklama" güvenlik açığını ortaya çıkardı. Bu tür saldırılar, kullanıcıların bir bağlantıya tıklama, bir dosyayı açma veya herhangi bir etkileşimde bulunma gibi herhangi bir eylemde bulunmasını gerektirmez, ancak yine de hesaplara erişim sağlayabilir ve hassas verileri sızdırabilir.

Tel Aviv'deki bir VNA muhabirine göre, Zenity'nin kurucu ortağı ve CTO'su Bay Mikhail Bergori, bir bilgisayar korsanının geçmiş ve gelecekteki içerikler de dahil olmak üzere konuşmaları tamamen kontrol etmek, konuşmanın amacını değiştirmek ve hatta ChatGPT'nin kendi istekleri doğrultusunda hareket etmesini sağlamak için yalnızca kullanıcının e-posta adresine ihtiyaç duyduğunu doğrudan açıkladı.

Araştırmacılar sunumlarında, ele geçirilmiş bir ChatGPT'nin, kullanıcılara karşı gizlice faaliyet gösterebilen "kötü niyetli bir aktöre" dönüştürülebileceğini gösterdi. Bilgisayar korsanları, chatbot'un kullanıcılara virüs bulaşmış yazılım indirmelerini önermesini, yanıltıcı ticari tavsiyelerde bulunmasını veya kullanıcının hesabı bağlıysa Google Drive'da depolanan dosyalara erişmesini sağlayabilir.

Tüm süreç kullanıcının bilgisi olmadan gerçekleşti. Güvenlik açığı, Zenity'nin OpenAI'yi bilgilendirmesinin ardından tamamen kapatıldı.

Zenity, ChatGPT'ye ek olarak, diğer popüler yapay zeka asistan platformlarına karşı da benzer saldırılar gerçekleştirdi. Microsoft'un Copilot Studio'sunda araştırmacılar, tüm CRM veritabanlarının nasıl sızdırılacağını keşfetti.

Salesforce Einstein'a göre, bilgisayar korsanları tüm müşteri iletişimlerini kontrol ettikleri e-posta adreslerine yönlendirmek için sahte servis istekleri oluşturabilir.

Google Gemini ve Microsoft 365 Copilot da kimlik avı saldırıları gerçekleştiren ve e-postalar ve takvim etkinlikleri aracılığıyla hassas bilgileri sızdıran "düşman aktörlere" dönüştürüldü.

Başka bir örnekte, Jira MCP ile entegre edilen yazılım geliştirme aracı Cursor, sahte "biletlerle" geliştirici kimlik bilgilerini çalmak için de kullanıldı.

Zenity, OpenAI ve Microsoft gibi bazı şirketlerin uyarı aldıktan hemen sonra yamalar yayınladığını belirtti. Ancak bazıları, sorunun bir güvenlik açığından ziyade bir "tasarım özelliği" olduğunu savunarak sorunu ele almayı reddetti.

Mikhail Bergori'ye göre, şu anki en büyük zorluk, yapay zekâ asistanlarının yalnızca basit görevleri yerine getirmekle kalmayıp, kullanıcıları temsil eden "dijital varlıklar" haline gelmeleri; klasörleri açabilmeleri, dosya gönderebilmeleri ve e-postalara erişebilmeleri. Bergori, bunun bilgisayar korsanları için bir "cennet" gibi olduğunu ve çok sayıda istismar noktası olduğunu söyledi.

Zenity'nin kurucu ortağı ve CEO'su Ben Kaliger, şirketin araştırmalarının mevcut güvenlik yöntemlerinin artık yapay zeka asistanlarının çalışma biçimine uygun olmadığını gösterdiğini vurguladı. Kaliger, kuruluşları yaklaşımlarını değiştirmeye ve bu "aracıların" faaliyetlerini kontrol edip izleyebilmek için özel çözümlere yatırım yapmaya çağırdı.

Zenity, 2021 yılında kuruldu. Şirketin şu anda dünya çapında yaklaşık 110 çalışanı bulunuyor ve bunların 70'i Tel Aviv ofisinde çalışıyor. Zenity'nin müşterileri arasında birçok Fortune 100 ve hatta Fortune 5 şirketi bulunmaktadır.

(TTXVN/Vietnam+)

Kaynak: https://www.vietnamplus.vn/israel-canh-bao-tro-ly-ai-co-the-tro-thanh-tac-nhan-doc-Hai-tan-cong-nguoi-dung-post1054883.vnp