Ризики від «всезнаючого» штучного інтелекту-помічника Moltbot

Помічник на основі штучного інтелекту з відкритим кодом швидко привертає увагу технічної спільноти завдяки своїй здатності автоматично виконувати завдання без втручання людини.

Moltbot вирізняється своєю здатністю автоматично виконувати завдання, призначені користувачем. Фото: Moltbot .

Moltbot, раніше відомий як Clawdbot, — це локально запущений агент штучного інтелекту на кількох пристроях. Користувачі можуть доручити Moltbot виконувати завдання від їхнього імені через популярні платформи обміну повідомленнями, такі як WhatsApp, Telegram, Signal, Discord або iMessage. У соціальних мережах багато людей діляться тим, як вони використовують Moltbot для керування нагадуваннями, реєстрації даних про здоров’я або навіть спілкування з клієнтами.

Федеріко Вітіччі, редактор MacStories , розповів, що встановив Moltbot на Mac Mini M4 та перетворив його на інструмент для створення щоденних аудіозведень на основі даних із програм Calendar, Notion та Todoist. В іншому випадку користувач поділився, що Moltbot може автоматично генерувати анімовані вирази обличчя та додавати ефект «сну» без ручного втручання.

Що стосується роботи, Moltbot пересилає запити користувачів обраному постачальнику штучного інтелекту, включаючи OpenAI, Anthropic або Google. Як і багато інших помічників, він може заповнювати форми безпосередньо в браузері, надсилати електронні листи та керувати календарями. Однак, згідно з відгуками деяких користувачів, Moltbot виконує ці завдання ефективніше та гнучкіше.

Однак, це також вимагає від користувачів надання дуже глибокого доступу до комп’ютерної системи, включаючи читання, запис файлів і виконання команд. Поєднання прав адміністратора пристрою з обліковими даними для входу в програми може створювати серйозні ризики для безпеки, якщо їх не контролювати жорстко.

Рейчел Тобак, генеральний директор SocialProof Security, попереджає, що якщо агент штучного інтелекту, такий як Moltbot, отримає адміністративні права на комп'ютері, зловмисники можуть спробувати взяти під контроль систему за допомогою одного повідомлення. За її словами, автоматизовані агенти штучного інтелекту можуть бути використані за допомогою атак швидкого впровадження (prompt injection attacks), вразливості, яка була виявлена, але для якої немає остаточного рішення. Атаки швидкого впровадження (prompt injection attacks) відбуваються, коли зловмисник маніпулює штучним інтелектом за допомогою шкідливих інструкцій, що надсилаються безпосередньо або приховані у файлах, електронних листах чи на веб-сайтах, які обробляє штучний інтелект.

Moltbot може становити загрозу безпеці. Фото: Moltbot .

Ці побоювання ще більше посилилися, коли Джеймісон О'Райлі, експерт з безпеки та засновник компанії з кібербезпеки Dvuln, виявив, що деякі особисті повідомлення, інформація для входу в обліковий запис та ключі API, пов'язані з Moltbot, були витікені в Інтернет.

Відповідно, ці дані можуть бути використані хакерами для крадіжки інформації або здійснення інших атак. Він сказав, що повідомив про проблему команді розробників Moltbot, і, за даними The Register , було випущено патч.

Джерело: https://znews.vn/rui-ro-tu-tro-ly-ai-biet-tuot-moltbot-post1623740.html