Le patron se détend, les employés transmettent calmement des données confidentielles à l'IA

(Dan Tri) - Lorsque l'IA s'infiltre dans tous les aspects du travail, c'est aussi le moment où les entreprises doivent faire face à un « courant sous-jacent » qui balaie silencieusement la confidentialité des données, appelé « Shadow AI ».

L'application de l'intelligence artificielle (IA) au travail est devenue une tendance inévitable, contribuant à améliorer l'efficacité et à gagner du temps.

Cependant, derrière cette commodité se cachent des risques potentiels en matière de sécurité des données, notamment le phénomène de « l'IA fantôme » – lorsque les employés utilisent les outils d'IA de manière négligente et sans contrôle, exposant accidentellement les données confidentielles de l'entreprise sur des plateformes publiques.

Dépendance et préoccupations initiales

Thanh Huyen (21 ans), employée en marketing de contenu dans une entreprise de cosmétiques et d'aliments fonctionnels, a indiqué qu'elle s'appuie jusqu'à 90 % sur l'IA dans son travail, de la planification à la création de contenu en passant par la conception d'images et de vidéos .

Cependant, lorsqu'elle est tombée par hasard sur un article similaire à l'idée qu'elle avait soumise à ChatGPT, Huyen a commencé à s'inquiéter de la capacité de l'IA à mémoriser et à partager les informations saisies.

L'application de l'IA au travail est devenue presque une pratique courante dans de nombreux secteurs à l'heure actuelle (Photo : Bao Ngoc).

Bien que l'histoire de Huyen puisse être une coïncidence, le fait est indéniable que fournir des informations à l'IA signifie permettre à ces outils de collecter et de stocker des données pour entraîner le modèle.

Le problème devient grave si la plateforme d'IA est piratée ou mal sécurisée, ce qui entraîne des fuites d'informations et des conséquences négatives.

« IA fantôme » - Une menace potentielle

HM (20 ans), spécialiste du service client, fournit régulièrement une liste d'informations client (nom complet, date de naissance, numéro de téléphone, historique d'achats) à l'IA pour analyse, ce qui permet de gagner du temps et d'améliorer les performances.

M. estime que cela ne représente pas un risque potentiel car l'entreprise est petite et les données ne seront pas divulguées. Cependant, le cas de M. est typique de l'« IA fantôme » : l'utilisation de l'IA par des employés sans l'approbation ni la supervision du service informatique ou de cybersécurité.

Le phénomène de « Shadow AI » désigne l’utilisation de l’IA par les employés dans les entreprises sans aucun contrôle ni gestion (Illustration : CV).

Selon un rapport de Cisco, 62 % des entreprises vietnamiennes doutent de leur capacité à détecter l'utilisation non réglementée de l'IA par leurs employés. Une enquête britannique a également révélé que 75 % des responsables de la cybersécurité s'inquiètent des menaces internes telles que l'IA parallèle.

Cela montre que l'IA parallèle devient une menace courante, surtout lorsque de nombreuses entreprises n'ont pas de politiques claires en matière d'utilisation de l'IA et que les employés manquent de sensibilisation à la sécurité des données.

Acceptez des compromis pour éviter d'être laissé pour compte.

Malgré sa conscience des risques, Thanh Huyen accepte de « miser » sur l'IA. Elle estime que les avantages immédiats qu'elle apporte sont trop importants, lui permettant de produire chaque jour des dizaines d'articles et d'idées.

La commodité, la rapidité et la capacité d'améliorer les performances ont incité Huyen à fournir des informations sensibles et confidentielles à l'IA, voire des informations personnelles de ses supérieurs.

Malgré les risques potentiels liés à l’utilisation de l’IA sans contrôle, de nombreux employés acceptent encore ce compromis en raison des avantages immédiats (Illustration : CV).

De même, Trung Hieu (20 ans), employé du marketing de contenu, fournit également régulièrement des documents internes et des informations commerciales au chatbot IA.

Hieu a constaté une augmentation significative de la productivité, créant un avantage concurrentiel, et estimait que cela n'avait pas d'incidence majeure sur les opérations de l'entreprise.

Ces cas montrent que l'IA parallèle se propage en raison d'un manque de politiques claires de la part de l'entreprise et d'une sensibilisation insuffisante des employés aux risques de sécurité, à la qualité et à la dépendance.

Les risques liés à une confiance excessive en l'IA

M. Nguyen Viet Hung, PDG d'une société de développement de logiciels d'application d'IA, explique la popularité de l'IA parallèle par trois facteurs : l'IA permet de travailler plus rapidement et plus efficacement ; l'habitude de dépendre de l'IA se développe rapidement ; et les entreprises manquent d'avertissements et de formations sur les risques.

M. Nguyen Viet Hung, PDG d'une société de développement de logiciels d'application d'IA (Photo : Cong Khanh).

Des experts avertissent que l'IA parallèle peut entraîner des fuites de données (clients, internes) lorsqu'elle est utilisée avec des outils d'IA gratuits.

De plus, la qualité du contenu généré par l'IA n'est pas vérifiée et peut facilement entraîner des biais, affectant ainsi les décisions commerciales.

Plus grave encore, l'utilisation incontrôlée de l'IA peut créer des failles de sécurité, rendant difficile la surveillance et la réaction rapide des systèmes informatiques, et compliquant la détermination des responsabilités en cas d'incidents.

Les zones sombres sont difficiles à contrôler.

La surveillance et la gestion des employés à l'aide de l'IA constituent un processus long et complexe qui exige une coordination étroite. Les experts soulignent que l'accès des employés aux données internes représente un obstacle majeur à la prévention de la transmission de données privées via des outils d'IA personnels.

De plus, les outils d'IA sont désormais facilement accessibles, ce qui rend leur détection et leur gestion difficiles pour les services informatiques.

L’accès facile aux outils d’IA est l’un des obstacles qui rendent plus difficile le contrôle des informations que les employés mettent sur les plateformes d’IA (Illustration : CV).

Pour y faire face, l'expert Nguyen Viet Hung suggère que les entreprises doivent renforcer la formation de leurs employés à la sensibilisation aux risques liés à l'utilisation de l'IA et acquérir une compréhension plus approfondie de « l'IA fantôme ».

Parallèlement, il convient d'établir rapidement les réglementations juridiques et les politiques internes. Une autre solution importante consiste à renforcer les capacités de sécurité de l'entreprise, notamment par la surveillance des comportements, le contrôle d'accès aux données et une authentification rigoureuse de chaque employé.

Actuellement, de nombreuses entreprises n'ont toujours pas de processus clair pour l'utilisation de l'IA, se contentant d'encourager son recours pour accroître la productivité. Pour lutter contre l'IA parallèle, de nombreuses grandes entreprises ont commencé à déployer des plateformes d'IA internes ou exigent de leurs employés qu'ils utilisent des outils approuvés, assortis de politiques de sécurité de l'information clairement définies.

Source : https://dantri.com.vn/cong-nghe/sep-buong-long-nhan-vien-than-nhien-cap-du-lieu-mat-cho-ai-20250806090132034.htm