ChatGPT peut révéler des secrets commerciaux

● Les risques peuvent être contrôlés si les entreprises mettent en œuvre des mesures de sécurité appropriées.

● Team8, une société de cybersécurité israélienne, a rédigé un rapport sur cette question avec les commentaires des directeurs de la sécurité de l'information de nombreuses entreprises.

Monde - ChatGPT peut révéler des secrets commerciaux — Photo : Gabby Jones/Bloomberg.

Team8, une entreprise israélienne de cybersécurité, a déclaré dans un rapport que les entreprises utilisant actuellement certaines applications d'intelligence artificielle comme ChatGPT sont susceptibles d'être confrontées au risque d'exposer des informations confidentielles sur leurs clients et leurs secrets commerciaux.

Le rapport, remis à Bloomberg News avant sa publication, indique que l'utilisation croissante de l'IA dans les chatbots et les éditeurs de texte pourrait exposer de nombreuses entreprises à des violations de données et à des poursuites judiciaires. Il soulève des inquiétudes quant à l'utilisation potentielle des chatbots par des pirates informatiques pour exploiter des informations sensibles ou mener d'autres activités préjudiciables à l'entreprise. On craint également que les informations confidentielles actuellement fournies aux chatbots puissent être utilisées à l'avenir par des entreprises d'IA.

De nombreuses grandes entreprises technologiques comme Microsoft Corp. et Alphabet Inc. s'efforcent d'intégrer l'intelligence artificielle pour améliorer leurs chatbots et leurs moteurs de recherche. Elles entraînent leurs modèles d'intelligence artificielle à partir de données extraites d'Internet afin de fournir aux utilisateurs un outil multifonctionnel capable de répondre à toutes leurs questions. Selon le rapport, si ces applications contiennent des données confidentielles ou privées, il sera extrêmement difficile de supprimer les informations fournies.

« L'application de l'intelligence artificielle en entreprise peut entraîner le risque que des informations sensibles, de la propriété intellectuelle, du code source, des secrets commerciaux et d'autres données soient exploitées et traitées via des données reçues directement des utilisateurs ou via des API, y compris la confidentialité des données des utilisateurs », indique le rapport. Ce rapport qualifie ces risques d'« élevés » et les juge « gérables » si des mesures de cybersécurité appropriées sont mises en œuvre.

Le rapport de Team8 souligne que les données des chatbots ne sont pas fournies aux entreprises pour former l'intelligence artificielle, contrairement aux rapports récents selon lesquels les données peuvent être lues par d'autres.

À l'heure actuelle, les modèles d'IA entraînés sur des données linguistiques à grande échelle ne sont pas capables de se mettre à jour en temps réel et, par conséquent, d'utiliser les données d'une personne pour répondre à une autre. Il n'y a donc pas lieu de s'inquiéter de cette possibilité. Cependant, les futures versions de ces modèles n'auront pas nécessairement des caractéristiques similaires.

Le rapport a également qualifié de « risque élevé » trois autres problèmes liés à l'intégration de l'IA et a souligné la menace croissante du partage d'informations avec des applications tierces. Microsoft a intégré plusieurs fonctionnalités de chatbot à son moteur de recherche Bing et à sa suite logicielle Microsoft 365.

« Par exemple, du côté de l'utilisateur, les applications tierces qui exploitent les API des modèles d'intelligence artificielle peuvent être compromises et se voir accorder l'accès à la messagerie électronique et au navigateur Web de l'utilisateur, permettant ainsi à l'intrus d'effectuer des activités au nom de cet utilisateur. »

Le rapport a également évalué un « risque moyen » que l’utilisation de l’intelligence artificielle puisse accroître la discrimination, nuire à la réputation d’une entreprise ou l’exposer à des poursuites judiciaires concernant des questions de droits d’auteur.

Ann Johnson, vice-présidente de Microsoft, a contribué à ce rapport. Microsoft a investi des milliards de dollars dans OpenAI, l'entreprise qui a développé l'application ChatGPT.

« Microsoft encourage une discussion transparente sur l’évolution des cyber-risques au sein des communautés de cybersécurité et d’intelligence artificielle », a déclaré un porte-parole de Microsoft.

Plusieurs responsables de la sécurité informatique de plusieurs entreprises américaines ont également contribué au rapport. Le rapport de Team8 a également été approuvé par Michael Rogers, ancien président de l'Agence de sécurité nationale américaine et du Cyber Command des États-Unis.

Nguyen Quang Minh (selon Bloomberg)

Source