Risques liés à l'assistant IA « omniscient

Moltbot se distingue par sa capacité à exécuter automatiquement les tâches assignées par l'utilisateur. Photo : Moltbot .

Moltbot, anciennement Clawdbot, est un agent d'IA fonctionnant localement sur plusieurs appareils. Les utilisateurs peuvent lui demander d'effectuer des tâches à leur place via des plateformes de messagerie populaires comme WhatsApp, Telegram, Signal, Discord ou iMessage. Sur les réseaux sociaux, nombreux sont ceux qui partagent comment ils utilisent Moltbot pour gérer des rappels, enregistrer des données de santé ou même communiquer avec leurs clients.

Federico Viticci, rédacteur en chef de MacStories , a indiqué avoir installé Moltbot sur un Mac Mini M4 et l'avoir transformé en outil de création de résumés audio quotidiens à partir des données des applications Calendrier, Notion et Todoist. Un autre utilisateur a par ailleurs signalé que Moltbot pouvait générer automatiquement des expressions faciales animées et ajouter un effet de « sommeil » sans intervention manuelle.

Côté fonctionnement, Moltbot transmet les requêtes des utilisateurs au fournisseur d'IA de leur choix, parmi lesquels OpenAI, Anthropic ou Google. Comme de nombreux autres assistants, il peut remplir des formulaires directement dans le navigateur, envoyer des e-mails et gérer des calendriers. Cependant, d'après les retours de certains utilisateurs, Moltbot accomplit ces tâches avec plus d'efficacité et de flexibilité.

Cependant, cela exige également des utilisateurs qu'ils accordent un accès très étendu au système informatique, incluant la lecture, l'écriture de fichiers et l'exécution de commandes. La combinaison des privilèges d'administrateur de l'appareil et des identifiants de connexion à l'application peut engendrer de graves risques de sécurité si elle n'est pas strictement encadrée.

Rachel Tobac, PDG de SocialProof Security, prévient que si un agent d'IA comme Moltbot obtient des privilèges d'administrateur sur un ordinateur, des attaquants pourraient tenter d'en prendre le contrôle par le biais d'un simple message. Selon elle, les agents d'IA automatisés peuvent être exploités grâce à des attaques par injection de prompt, une vulnérabilité identifiée mais pour laquelle aucune solution définitive n'a été trouvée. Ces attaques se produisent lorsqu'un attaquant manipule l'IA avec des instructions malveillantes, envoyées directement ou dissimulées dans des fichiers, des courriels ou des sites web que l'IA traite.

Moltbot peut présenter un risque pour la sécurité. Photo : Moltbot .

Ces inquiétudes ont été encore renforcées lorsque Jamieson O'Reilly, expert en sécurité et fondateur de la société de cybersécurité Dvuln, a découvert que des messages privés, des informations de connexion à des comptes et des clés API liés à Moltbot avaient fuité en ligne.

Par conséquent, ces données pourraient être exploitées par des pirates informatiques pour voler des informations ou mener d'autres attaques. Il a indiqué avoir signalé le problème à l'équipe de développement de Moltbot et un correctif a été publié, selon The Register .

Source : https://znews.vn/rui-ro-tu-tro-ly-ai-biet-tuot-moltbot-post1623740.html