Риски, связанные с «всезнающим» ИИ-помощником Moltbot.

Благодаря своей способности автоматически выполнять задачи без участия человека, ИИ-помощник с открытым исходным кодом быстро привлекает внимание технологического сообщества.

Moltbot выделяется своей способностью автоматически выполнять задачи, поставленные пользователем. Фото: Moltbot .

Moltbot, ранее известный как Clawdbot, — это локально работающий ИИ-агент на нескольких устройствах. Пользователи могут давать Moltbot указания выполнять задачи от их имени через популярные мессенджеры, такие как WhatsApp, Telegram, Signal, Discord или iMessage. В социальных сетях многие делятся тем, как они используют Moltbot для управления напоминаниями, регистрации данных о состоянии здоровья или даже общения с клиентами.

Федерико Витиччи, редактор MacStories , рассказал, что установил Moltbot на Mac Mini M4 и превратил его в инструмент для создания ежедневных аудио-сводок на основе данных из приложений Calendar, Notion и Todoist. В другом случае пользователь поделился тем, что Moltbot может автоматически генерировать анимированные выражения лица и добавлять эффект «сна» без ручного вмешательства.

Что касается работы, Moltbot перенаправляет запросы пользователей выбранному ими поставщику ИИ, включая OpenAI, Anthropic или Google. Как и многие другие помощники, он может заполнять формы непосредственно в браузере, отправлять электронные письма и управлять календарями. Однако, по отзывам некоторых пользователей, Moltbot выполняет эти задачи более эффективно и гибко.

Однако это также требует от пользователей предоставления очень глубоких прав доступа к компьютерной системе, включая чтение, запись файлов и выполнение команд. Сочетание прав администратора устройства с учетными данными для входа в приложения может создать серьезные риски для безопасности, если не будет строго контролироваться.

Рейчел Тобак, генеральный директор SocialProof Security, предупреждает, что если ИИ-агент, такой как Moltbot, получит административные привилегии на компьютере, злоумышленники могут попытаться захватить контроль над системой с помощью одного сообщения. По ее словам, автоматизированные ИИ-агенты могут быть использованы для атак с внедрением вредоносных инструкций (prompt injection attacks) — уязвимости, которая была выявлена, но для которой пока нет окончательного решения. Атаки с внедрением вредоносных инструкций происходят, когда злоумышленник манипулирует ИИ с помощью вредоносных инструкций, отправляемых напрямую или скрытых в файлах, электронных письмах или на веб-сайтах, которые обрабатывает ИИ.

Moltbot может представлять угрозу безопасности. Фото: Moltbot .

Эти опасения еще больше усилились, когда Джеймисон О'Рейли, эксперт по безопасности и основатель компании Dvuln, занимающейся кибербезопасностью, обнаружил, что в сеть попали некоторые личные сообщения, информация для входа в учетные записи и ключи API, связанные с Moltbot.

Таким образом, эти данные могут быть использованы хакерами для кражи информации или совершения других атак. По его словам, он сообщил о проблеме команде разработчиков Moltbot, и уже выпущено исправление, сообщает The Register .

Источник: https://znews.vn/rui-ro-tu-tro-ly-ai-biet-tuot-moltbot-post1623740.html