Les pirates informatiques peuvent obtenir des informations confidentielles sur l'entreprise en se « confiant » à un chatbot IA

Selon les experts en technologie, en utilisant une série d'invites sophistiquées, les pirates peuvent pénétrer dans la base de données « confidentielle » d'une entreprise sans être détectés.

Aperçu de l'événement OpenInfra & Cloud Native Day Vietnam 2025 sur le thème « L'ère de la percée numérique au Vietnam » - Photo : CHI HIEU

L'intelligence artificielle (IA) apporte de nombreuses valeurs, notamment désormais intégrée par de nombreuses entreprises pour servir les utilisateurs finaux tels que les employés de l'entreprise, les clients... À partir de là, les systèmes de chatbot intégrés à l'IA peuvent devenir une « porte étroite » pour aider les pirates à attaquer et voler des informations sur les systèmes de stockage de données.

« Actuellement, il existe de nombreuses méthodes pour attaquer les modèles d'IA, la plus courante étant l'« empoisonnement de contenu », qui semble être « invisible » pour les systèmes traditionnels de protection de l'information », a averti M. Dao Viet Hung, directeur national d'Akamai Technologies Vietnam, lors de l'événement OpenInfra & Cloud Native Day Vietnam 2025 qui s'est tenu le 26 juillet à Hanoi .

L'événement a été organisé par l'Association Internet du Vietnam (VIA) en coordination avec la Communauté des infrastructures ouvertes du Vietnam (VietOpenInfra), le Vietnam Cloud Computing and Data Center Club (VNCDC), avec le soutien du ministère des Sciences et de la Technologie .

90 % des entreprises utilisent des plateformes ou des logiciels ouverts

Dans son discours d'ouverture, M. Vu The Binh, vice-président et secrétaire général de l'Association Internet du Vietnam, a souligné l'importance de l'infrastructure ouverte et du code source ouvert dans le processus national de transformation numérique.

Dans le contexte des changements rapides de la technologie mondiale, M. Binh a déclaré que l'infrastructure ouverte continue de se développer comme base pour l'innovation alors que plus de 90 % des entreprises utilisent des plateformes ou des logiciels ouverts sous de nombreuses formes.

Selon une enquête Red Hat (2024), 82 % des leaders technologiques considèrent les plateformes et logiciels ouverts comme essentiels à la transformation numérique et à l'accélération de l'innovation. Des plateformes telles que Kubernetes, OpenStack, Linux, Ceph et OpenTelemetry jouent un rôle de plus en plus important dans l'exploitation des systèmes d'IA, d'IoT, 5G/6G et du Cloud Native.

Il y a dix ans, le cloud pouvait être confondu avec des nuages ​​dans le ciel, et l'open source ressemblait à un secret d'arts martiaux. Mais aujourd'hui, nous sommes là, connectés à la communauté mondiale des infrastructures ouvertes dans plus de 180 pays, et nous transformons ensemble les lignes de code en moteur d'innovation », a expliqué M. Vu The Binh.

Chatbot IA : une « porte étroite » permettant aux pirates de pénétrer dans le système

« Actuellement, de nombreuses entreprises appliquent fortement l'efficacité des plateformes ouvertes et réactives qui intègrent des systèmes tels que les chatbots IA pour aider à améliorer les performances au travail et à améliorer l'expérience utilisateur.

De plus, de nombreuses méthodes d'attaque contre les modèles d'IA, y compris des attaques par « empoisonnement de contenu », ont été mises en place à partir de là, a averti M. Dao Viet Hung, directeur national d'Akamai Technologies Vietnam.

Il a commenté que les entreprises vietnamiennes, lorsqu'elles déploient l'IA, ne savent toujours pas grand-chose sur cette forme d'attaque.

En conséquence, les mauvais acteurs utilisent la méthode consistant à demander et à réenseigner continuellement au modèle d'IA de fausses informations, provoquant ainsi un « empoisonnement » des informations.

Si les informations sur le système cloud ont été « infectées » et ne sont pas détectées et continuent d’être utilisées, elles donneront des informations incorrectes ou utiliseront cette vulnérabilité pour se faufiler dans la base de données dans le but d’obtenir des informations.

M. Dao Viet Hung, directeur national d'Akamai Technologies Vietnam - Photo : CHI HIEU

M. Dao Viet Hung a cité une histoire rare dans laquelle le système de chatbot de vente en ligne d'une entreprise automobile a été convaincu de vendre une nouvelle voiture pour seulement 1 $.

La raison est que pendant le processus d'échange et de négociation avec le chatbot, ce client a trouvé un moyen de « se faufiler » dans la base de données et de convaincre le chatbot d'accepter la demande ci-dessus.

Un autre exemple est celui d'un pirate informatique qui a réussi à obtenir tous les documents confidentiels et les organigrammes de l'entreprise simplement en composant les bonnes questions et en les envoyant au chatbot IA interne.

À partir de ce risque, M. Dao Viet Hung a partagé la solution de sécurité de l'IA afin que l'IA puisse protéger l'IA, c'est une forme utilisée par de nombreuses grandes entreprises dans le monde .

Avec cette méthode de sécurité, les données stockées intègrent plusieurs couches de protection, ce qui rend difficile toute « infection ».

Le système de sécurité IA peut détecter quelles informations sont propres et quelles informations présentent des risques potentiels d'attaque, à partir desquels il disposera d'un plan de traitement rapide et approprié...

Retour au sujet

Piété filiale

Source : https://tuoitre.vn/hacker-co-the-lay-thong-tin-tuyet-mat-cua-cong-ty-thong-qua-tam-su-voi-chatbot-ai-20250726155812946.htm