Moltbot'un 'her şeyi bilen' yapay zekâ asistanından kaynaklanan riskler

Moltbot, kullanıcı tarafından atanan görevleri otomatik olarak yerine getirme yeteneğiyle öne çıkıyor. Fotoğraf: Moltbot .

Eskiden Clawdbot olarak bilinen Moltbot, birden fazla cihazda yerel olarak çalışan bir yapay zeka ajanıdır. Kullanıcılar, WhatsApp, Telegram, Signal, Discord veya iMessage gibi popüler mesajlaşma platformları aracılığıyla Moltbot'a kendi adlarına görevler gerçekleştirmesi talimatı verebilirler. Sosyal medyada birçok kişi, Moltbot'u hatırlatıcıları yönetmek, sağlık verilerini kaydetmek veya hatta müşterilerle iletişim kurmak için nasıl kullandıklarını paylaşıyor.

MacStories editörü Federico Viticci, Moltbot'u bir Mac Mini M4'e kurduğunu ve onu Takvim, Notion ve Todoist uygulamalarından gelen verilere dayanarak günlük sesli özetler oluşturmak için bir araca dönüştürdüğünü söyledi. Başka bir örnekte ise bir kullanıcı, Moltbot'un otomatik olarak animasyonlu yüz ifadeleri oluşturabildiğini ve manuel müdahale olmadan "uyku" efekti ekleyebildiğini paylaştı.

Çalışma prensibi açısından Moltbot, kullanıcı isteklerini OpenAI, Anthropic veya Google gibi seçtikleri yapay zeka sağlayıcısına iletir. Diğer birçok asistan gibi, doğrudan tarayıcıda form doldurabilir, e-posta gönderebilir ve takvimleri yönetebilir. Ancak bazı kullanıcıların geri bildirimlerine göre Moltbot, bu görevleri daha verimli ve esnek bir şekilde yerine getiriyor.

Ancak bu durum, kullanıcıların bilgisayar sistemine çok derin erişim izni vermesini de gerektirir; bu izin, dosya okuma, yazma ve komut çalıştırma yetkilerini içerir. Cihaz yöneticisi ayrıcalıklarının uygulama oturum açma kimlik bilgileriyle birleştirilmesi, sıkı bir şekilde kontrol edilmediği takdirde ciddi güvenlik riskleri oluşturabilir.

SocialProof Security CEO'su Rachel Tobac, Moltbot gibi bir yapay zekâ ajanı bir bilgisayarda yönetici ayrıcalıkları elde ederse, saldırganların tek bir mesajla sistemi kontrol altına almaya çalışabileceği konusunda uyarıyor. Ona göre, otomatik yapay zekâ ajanları, tanımlanmış ancak kesin bir çözümü bulunmayan bir güvenlik açığı olan prompt injection saldırılarıyla istismar edilebilir. Prompt injection saldırıları, bir saldırganın yapay zekâyı, doğrudan gönderilen veya yapay zekânın işlediği dosyalara, e-postalara veya web sitelerine gizlenmiş kötü amaçlı talimatlarla manipüle etmesiyle gerçekleşir.

Moltbot güvenlik riski oluşturabilir. Fotoğraf: Moltbot .

Siber güvenlik şirketi Dvuln'un kurucusu ve güvenlik uzmanı Jamieson O'Reilly'nin, Moltbot ile ilgili bazı özel mesajların, hesap giriş bilgilerinin ve API anahtarlarının internete sızdırıldığını keşfetmesiyle bu endişeler daha da arttı.

Dolayısıyla, bu veriler bilgisayar korsanları tarafından bilgi çalmak veya başka saldırılar gerçekleştirmek için kullanılabilir. The Register'a göre, sorunu Moltbot geliştirme ekibine bildirdiğini ve bir yama yayınlandığını söyledi.

Kaynak: https://znews.vn/rui-ro-tu-tro-ly-ai-biet-tuot-moltbot-post1623740.html