Les pirates informatiques peuvent obtenir des informations confidentielles d'une entreprise en se « confiant » à un chatbot IA.

Selon des experts en technologie, en utilisant une série d'invites sophistiquées, des pirates informatiques peuvent pénétrer la base de données « confidentielle » d'une entreprise sans être détectés.

Aperçu de l'événement OpenInfra & Cloud Native Day Vietnam 2025 sur le thème « L'ère de la percée numérique du Vietnam » - Photo : CHI HIEU

L'intelligence artificielle (IA) apporte de nombreuses valeurs, notamment grâce à son intégration actuelle par de nombreuses entreprises au service des utilisateurs finaux tels que les employés, les clients... À partir de là, les systèmes de chatbot intégrant l'IA peuvent devenir une « porte étroite » permettant aux pirates informatiques d'attaquer et de voler des informations sur les systèmes de stockage de données.

« Il existe actuellement de nombreuses méthodes d'attaque des modèles d'IA, dont la plus courante est l'« empoisonnement du contenu », qui semble être « invisible » pour les systèmes de protection de l'information traditionnels », a averti M. Dao Viet Hung, directeur national d'Akamai Technologies Vietnam, lors de l'événement OpenInfra & Cloud Native Day Vietnam 2025 qui s'est tenu le 26 juillet à Hanoï .

L'événement a été organisé par l'Association Internet du Vietnam (VIA) en coordination avec la Communauté d'infrastructure ouverte du Vietnam (VietOpenInfra), le Club vietnamien du cloud computing et des centres de données (VNCDC), avec le soutien du ministère des Sciences et de la Technologie .

90 % des entreprises utilisent des plateformes ou des logiciels ouverts

Dans son discours d'ouverture, M. Vu The Binh, vice-président et secrétaire général de l'Association Internet du Vietnam, a souligné l'importance des infrastructures ouvertes et des codes sources ouverts dans le processus de transformation numérique national.

Dans un contexte d'évolution rapide des technologies mondiales, M. Binh a déclaré que l'infrastructure ouverte continue de se développer comme fondement de l'innovation, alors que plus de 90 % des entreprises utilisent des plateformes ou des logiciels ouverts sous de nombreuses formes.

D'après une étude Red Hat (2024), 82 % des dirigeants du secteur technologique considèrent les plateformes et logiciels ouverts comme essentiels à la transformation numérique et à l'accélération de l'innovation. Des plateformes telles que Kubernetes, OpenStack, Linux, Ceph et OpenTelemetry jouent un rôle de plus en plus important dans l'exploitation des systèmes d'IA, d'IoT, de 5G/6G et de cloud natif.

« Il y a dix ans, on aurait pu confondre le cloud avec les nuages ​​dans le ciel, et l'open source sonnait comme un secret d'arts martiaux. Mais aujourd'hui, nous sommes là, connectés à la communauté mondiale des infrastructures ouvertes dans plus de 180 pays, et ensemble, nous transformons les lignes de code en moteur d'innovation », a déclaré M. Vu The Binh.

Chatbot IA – une « porte étroite » permettant aux pirates informatiques de pénétrer le système

« Actuellement, de nombreuses entreprises exploitent pleinement l'efficacité des plateformes ouvertes et réactives qui intègrent des systèmes tels que les chatbots d'IA pour améliorer la performance au travail et l'expérience utilisateur. »

C’est également de là que proviennent de nombreuses méthodes d’attaque contre les modèles d’IA, notamment les attaques par « empoisonnement de contenu », a averti M. Dao Viet Hung, directeur national d’Akamai Technologies Vietnam.

Il a fait remarquer que les entreprises vietnamiennes, lorsqu'elles déploient l'IA, ne connaissent toujours pas grand-chose à ce type d'attaque.

En conséquence, les acteurs malveillants utilisent la méthode consistant à demander et à réapprendre continuellement de fausses informations au modèle d'IA, provoquant ainsi un « empoisonnement » de l'information.

Si les informations sur le système cloud ont été « infectées » et ne sont pas détectées, et continuent d'être utilisées, elles fourniront des informations incorrectes ou exploiteront cette vulnérabilité pour s'introduire dans la base de données dans le but d'obtenir des informations.

M. Dao Viet Hung, directeur national d'Akamai Technologies Vietnam - Photo : CHI HIEU

M. Dao Viet Hung a cité une histoire rare où le système de chatbot de vente en ligne d'une entreprise automobile a été convaincu de vendre une voiture neuve pour seulement 1 dollar.

La raison est que, lors des échanges et des négociations avec le chatbot, ce client a trouvé un moyen de s'introduire dans la base de données et de convaincre le chatbot d'accepter la demande susmentionnée.

Un autre exemple est celui d'un pirate informatique qui a réussi à obtenir tous les documents confidentiels et les organigrammes de l'entreprise simplement en posant les bonnes questions et en les envoyant au chatbot d'IA interne.

Face à ce risque, M. Dao Viet Hung a partagé une solution de sécurité basée sur l'IA permettant à l'IA de se protéger elle-même ; cette solution est utilisée par de nombreuses grandes entreprises dans le monde .

Grâce à cette méthode de sécurité, les données stockées intègrent de multiples niveaux de protection, ce qui rend difficile leur « infection ».

Le système de sécurité basé sur l'IA peut détecter quelles informations sont sûres et lesquelles présentent des risques potentiels d'attaque, et mettre en œuvre un plan de traitement rapide et approprié.

Retour au sujet

piété filiale

Source : https://tuoitre.vn/hacker-co-the-lay-thong-tin-tuyet-mat-cua-cong-ty-thong-qua-tam-su-voi-chatbot-ai-20250726155812946.htm