Lors du forum Security Summit 2026 qui s'est tenu le 22 mai, M. Mai Xuan Cuong, directeur du centre de services de sécurité de l'information de Viettel Cyber Security, a déclaré que la différence la plus dangereuse entre les agents d'IA et les LLM traditionnels réside dans leur capacité à interagir directement avec le système.
Alors que les LLM classiques se contentent de recevoir des commandes et de renvoyer du texte, les agents IA peuvent exécuter des commandes shell (interagir avec le système d'exploitation via la ligne de commande), manipuler les systèmes de fichiers en lecture et en écriture, envoyer automatiquement des courriels, appeler des API et contrôler les navigateurs. Cette évolution ouvre involontairement un champ d'action beaucoup plus vaste pour les attaques, dépassant largement le cadre des campagnes de désinformation habituelles.
Les agents d'IA deviennent une nouvelle cible pour les cybercriminels.
D’après les experts en cybersécurité, c’est cette capacité à « agir » qui fait des agents d’IA une nouvelle cible pour les cybercriminels.
L'un des principaux risques est la fuite de données d'entreprise. Pour fonctionner efficacement, les agents d'IA doivent souvent traiter d'importantes quantités d'informations internes, telles que le code source, les documents et les courriels. Si ces données sont envoyées à des plateformes d'IA tierces hébergées dans le cloud, le risque de divulgation d'informations confidentielles s'accroît.
Des cas ont été recensés d'employés de Samsung divulguant du code source via ChatGPT, ou d'employés de Meta divulguant involontairement des données en suivant les instructions d'une IA interne.
Outre le risque de fuites de données, les experts mettent également en garde contre « l'injection indirecte d'instructions ». Les pirates informatiques peuvent intégrer des instructions malveillantes dans des courriels, des sites web ou des documents afin d'inciter les agents d'IA à effectuer des actions non intentionnelles, comme accéder à des données internes ou envoyer des informations au pirate.
Un cas s'est produit où un attaquant a dissimulé du code Morse dans un message pour contourner le système, permettant à l'agent de cryptomonnaie Grok-Bankrbot d'effectuer un transfert d'argent non autorisé, entraînant une perte de 150 000 $.
Un autre risque provient de l'écosystème des extensions pour agents d'IA. De nombreux employés installent des extensions communautaires pour étendre les fonctionnalités de l'IA, mais des pirates peuvent exploiter cette faille pour diffuser des logiciels malveillants. Une fois l'accès au système obtenu, ces faux plugins peuvent voler des données, des jetons ou créer des portes dérobées sur l'appareil.
D'après M. Cuong, la tendance de l'« IA fantôme » se développe également, les employés installant de manière autonome des agents d'IA sur leurs ordinateurs professionnels sans passer par le service informatique. Cela complique le contrôle d'accès pour les entreprises et accroît le risque de failles de sécurité dans leurs systèmes.
De plus, l'IA peut mal interpréter les intentions de l'utilisateur, ce qui peut entraîner l'exécution de commandes susceptibles de causer des dommages importants aux entreprises. Par exemple, un agent IA doté de permissions excessives pourrait effectuer une opération erronée ou supprimer accidentellement des données importantes.
Pour atténuer les risques, il est conseillé aux organisations de mettre en place un modèle de sécurité multicouche au lieu de se fier uniquement aux logiciels antivirus traditionnels et d'élaborer une feuille de route de mise en œuvre appropriée.
Les entreprises doivent mettre en place un modèle de sécurité multicouche.
La première étape pour une entreprise est la détection des menaces. Elle peut utiliser les points de terminaison et le trafic des serveurs proxy web (serveurs intermédiaires connectant les appareils à Internet) pour agréger et identifier les menaces.
Ensuite, nous devons mettre en place une passerelle d'IA qui centralisera tous les accès à l'IA. Cette passerelle gérera la transmission des données vers le cloud public.
Par conséquent, les entreprises doivent mettre en œuvre une couche supplémentaire de contrôle spécialisé (Guardrail) sur leur passerelle d'IA et autres applications d'IA afin d'identifier les commandes malveillantes, d'empêcher les fuites de données et de détecter les accès non autorisés ou l'exploitation du système.
L'étape suivante consiste à renforcer la sécurité de l'agent IA. Le système de surveillance du terminal doit être configuré pour détecter tout comportement autonome anormal. L'agent IA doit fonctionner dans un environnement isolé, avec un accès minimal, afin de limiter les risques de propagation en cas d'incident. Enfin, une surveillance régulière du système est indispensable.
« La gouvernance de la sécurité de l'IA n'est pas un déploiement ponctuel, mais un processus de surveillance continue », a déclaré M. Cuong.
La gestion de la sécurité de l'IA deviendra indispensable durant la période de développement rapide des agents d'IA. Si les entreprises ne sont pas préparées à mettre en place des modèles de sécurité Zero Trust et une surveillance rigoureuse, confier des agents d'IA à un employé, aussi compétent soit-il, est extrêmement vulnérable à la manipulation.
Source : https://doanhnghiepvn.vn/cong-nghe/doanh-nghiep-can-lam-gi-de-tranh-bi-ai-agent-phan-chu/20260523080712445
Comment (0)