DNVN - Parallèlement à la tendance à permettre à l'IA (intelligence artificielle) d'accomplir des tâches par elle-même, le risque de cyberattaques augmentera de manière exponentielle. Ce qui est inquiétant, c’est que certains systèmes d’IA censés être puissants sont en réalité très « fragiles ».
Selon M. Patrice Caine, PDG du groupe Thales, les débats sur l'impact de l'IA sont de plus en plus vifs, accompagnés de nombreux scepticismes à l'égard de cette technologie. Cependant, l’IA est une tendance technologique indéniable.
Alors que certains critiquent les géants de la technologie pour leurs médias sociaux basés sur l’IA ou leurs outils grand public douteux, l’IA elle-même devient une technologie indispensable. Son efficacité est sans égale et promet des avantages qu’aucune entreprise ni aucun gouvernement ne peut se permettre d’ignorer.
Bientôt, l’IA deviendra aussi essentielle à la vie que l’électricité : elle contribuera à faire fonctionner les voitures, à façonner les services de santé , à protéger les banques et à gérer les systèmes d’éclairage public. La grande question est : sommes-nous prêts pour ce qui va suivre ?
Les controverses autour de l’IA se concentrent principalement sur les questions éthiques, les biais d’information et l’avenir du travail. Mais un problème majeur passe inaperçu : la sécurité de l’IA. Dans l'enquête 2024 de Gartner auprès des cadres supérieurs de la gestion des risques d'entreprise, les attaques malveillantes renforcées par l'IA et la désinformation alimentée par l'IA étaient les deux principaux risques identifiés.
M. Patrice Caine, PDG du Groupe Thales.
Nous avons de nombreuses raisons de nous inquiéter. Les pays d'Asie- Pacifique adoptent l'IA de nombreuses manières - Dans une enquête Finastra de 2023, les institutions financières vietnamiennes ouvrent la voie à l'adoption de l'IA générative (genAI) à l'échelle mondiale. 40 % des répondants vietnamiens ont déclaré que leurs organisations avaient déployé ou amélioré les capacités de traitement du langage naturel, y compris l'IA générative. Cependant, nous ne pouvons pas avancer sans tirer parti de notre force collective : les gouvernements et les entreprises doivent travailler ensemble pour construire un écosystème d’IA sûr et résilient.
Avec la tendance à permettre à l’IA d’accomplir des tâches par elle-même, le risque de cyberattaques augmentera de manière exponentielle. Ce qui est inquiétant, c’est que certains systèmes d’IA censés être puissants sont en réalité très « fragiles ».
Il existe deux manières principales d’attaquer un système d’IA. La première consiste à pirater le système et à voler tout, des dossiers médicaux personnels aux secrets commerciaux des entreprises. Les pirates informatiques peuvent tromper les modèles d’IA pour qu’ils divulguent des informations sensibles en exploitant des bases de données médicales ou tromper les chatbots pour qu’ils contournent leurs propres protections de données.
La deuxième façon est de saboter les modèles, en faussant dangereusement les résultats. Par exemple, une voiture utilisant une technologie d’IA pourrait être amenée à lire un panneau « Stop » comme un panneau de vitesse « 100 km/h ». Voici les risques évidents liés à l’utilisation de l’IA. Et à mesure que les applications de l’IA se développent, le risque d’attaques système va clairement augmenter.
Cependant, abandonner l’IA pour éviter ces risques serait une grave erreur. Sacrifier la compétitivité au profit de la sécurité rend les organisations dépendantes de tiers, manquant d’expérience et de contrôle sur une technologie qui devient rapidement essentielle.
L’IA connaît une forte croissance et est appliquée par de nombreuses organisations et entreprises.
Alors comment pouvons-nous profiter des avantages de l’IA sans prendre ce risque ? Voici trois étapes importantes :
Choisissez l’IA judicieusement. Tous les systèmes d’IA ne sont pas vulnérables. Par exemple, les grands modèles linguistiques sont vulnérables car ils reposent sur de grands ensembles de données et des méthodes statistiques. Mais d’autres types d’IA, comme les modèles symboliques ou hybrides, ont une portée d’utilisation des données plus étroite et fonctionnent selon des règles claires, ce qui les rend plus difficiles à pirater.
Les modèles d’IA hybrides combinent le raisonnement symbolique avec l’apprentissage automatique, fournissant des explications logiques et précises. L’IA hybride peut réduire considérablement les faux positifs dans la détection des fraudes tout en augmentant la transparence dans la prise de décision. Cela est particulièrement précieux pour les services financiers et les entreprises FinTech de la région.
Mettre en œuvre des mesures de sécurité éprouvées. Des outils tels que le tatouage numérique, la cryptographie et la formation personnalisée peuvent renforcer les modèles d’IA contre les menaces potentielles. En Asie-Pacifique, ces outils sont essentiels pour des secteurs tels que la banque, les infrastructures critiques et la santé, où la transformation numérique s’accélère. Chez Thales, nous disposons de la « Battle Box » qui permet aux équipes de cybersécurité de tester en profondeur les modèles d’IA pour trouver et corriger les vulnérabilités avant que les pirates ne puissent les exploiter. Ces solutions de test aideront les entreprises à évaluer et à améliorer la résilience des systèmes face aux menaces croissantes en matière de cybersécurité.
Améliorez la cybersécurité de votre organisation. L’IA ne fonctionne pas de manière isolée : elle fait partie de l’écosystème d’information d’une organisation. Les mesures traditionnelles de cybersécurité doivent être renforcées et adaptées à l’ère de l’IA. Cela commence par la formation des employés – après tout, l’erreur humaine reste le talon d’Achille de tout système de cybersécurité.
La pénurie de talents en cybersécurité dans la région Asie-Pacifique constitue un défi croissant. Les entreprises doivent investir dans la formation continue de leurs employés pour sécuriser leurs systèmes d’IA. Par exemple, le programme de développement des talents en cybersécurité de Singapour offre un modèle pour combler le déficit de compétences régionales.
Certains affirment que la guerre contre l’IA n’est qu’une partie d’un conflit permanent entre les méchants et les victimes inconscientes. Mais cette fois, le prix sera trop élevé. Si les entreprises et les gouvernements de la région Asie-Pacifique ne donnent pas la priorité à la sécurité de l’IA, ils risquent non seulement des violations de données, mais aussi d’entraver la croissance économique et l’innovation.
La meilleure façon de réagir est de faire de la sécurité de l’IA une priorité stratégique et de travailler ensemble. Ce n’est qu’à cette condition que nous pourrons garantir que l’IA atteindra son plein potentiel, en stimulant de nouvelles formes de croissance et d’innovation tout en préservant la sécurité de la société.
Hoang Phuong
Source : https://doanhnghiepvn.vn/chuyen-doi-so/an-ninh-mang/ai-canh-bac-may-rui-neu-thieu-cac-bien-phap-an-ninh-mang-phu-hop/20250115013404507
Comment (0)