Le développement rapide de l'IA suscite un vif intérêt à l'échelle mondiale, et au Vietnam en particulier. Les experts considèrent l'IA comme le facteur le plus important de la quatrième révolution industrielle, apportant des avantages considérables et des avancées majeures au développement économique du pays. Selon le cabinet de conseil Exactitude Consultancy, en février 2024, le marché mondial de l'IA pour la sécurité, la sûreté publique et la sécurité nationale devrait passer de 11,43 milliards de dollars en 2023 à 47,32 milliards de dollars en 2030.

Bien que l’IA soit largement appliquée dans de nombreux domaines, outre des avantages tels que la fourniture d’informations, la prévision intelligente de situations liées aux infrastructures critiques ou la prévision rapide de situations de crise, cette technologie pose également de nombreux risques et défis.

Toutes les formes de cyberattaques peuvent appliquer l'IA

Les risques et les défis de l'IA pour la société, le droit et la cybersécurité ont été spécifiquement mentionnés lors de la conférence et de l'exposition Vietnam Cyber Security Summit 2024 sur le thème « La sécurité à l'ère de l'explosion de l'intelligence artificielle », organisée par le Département de la sécurité de l'information ( ministère de l'Information et des Communications ) en coordination avec l'IEC, sous les auspices du ministère de l'Information et des Communications le 30 mai.

W-KIN_4888.JPG.jpg
M. Nguyen Anh Tuan, directeur adjoint du Centre national de données démographiques du Département de la police administrative pour l'ordre social (ministère de la Sécurité publique), a participé à l'atelier. Photo : Comité d'organisation.

Selon le lieutenant-colonel Nguyen Anh Tuan, directeur adjoint du Centre national de données démographiques du Département de la police administrative pour l'ordre social (ministère de la Sécurité publique), en termes de société, l'IA suscite des inquiétudes quant à la violation de la vie privée ; l'IA est exploitée pour discriminer la race, la classe, le sexe, l'origine ethnique, provoquant des conflits et des contradictions plus intenses ; fournissant de fausses informations, échangeant des concepts, changeant l'histoire, déformant la vérité, provoquant des troubles de l'opinion publique, affectant l'éducation et la culture.

M. Nguyen Tuan Anh, travaillant directement avec les données, a déclaré : « Bien que les ministères, départements et services vietnamiens aient développé leurs propres sources de données pour leur travail professionnel, leur synthèse, leur exploitation et leur évaluation présentent encore de nombreuses limites, notamment en ce qui concerne l'exactitude et l'exhaustivité. » Par ailleurs, un système d'IA ne fonctionne efficacement que si les données d'entrée sont fiables. Si ces données sont incorrectes ou inexactes, les résultats d'analyse de l'IA seront inexacts ou des prédictions « discriminatoires » et injustes seront générées.

En termes de législation et de politique, selon les statistiques de legalnodes.com, environ 33 pays ont élaboré des textes juridiques sur l'IA, mais leur application reste limitée et ils ne disposent pas d'un ensemble commun de normes complètes en la matière. Les pays se divisent en deux courants : ceux qui modifient les lois en vigueur et intègrent l'IA dans chaque domaine ; et ceux qui élaborent des textes juridiques réglementant l'IA de manière exhaustive. Le Vietnam se situe au stade de l'approche et ne dispose pas de politiques, de textes juridiques ou d'institutions spécifiques liés à l'IA.

En matière de cybersécurité, toutes les formes de cyberattaques actuelles peuvent faire appel à l'IA pour accroître l'initiative des attaquants et causer des dommages plus importants. Il existe des formes d'attaques telles que les fichiers malveillants, la simulation, la fraude, les attaques par déni de service à grande échelle et l'apprentissage automatique. Actuellement, outre le réseau Internet, les ministères, les départements, les antennes et les localités disposent tous de leurs propres réseaux. Des attaques et des accès non autorisés ont été signalés, et l'IA peut être utilisée pour accroître l'ampleur et la gravité des attaques.

Utiliser l'IA pour atténuer les risques liés à l'IA

À travers la gestion et la mise en œuvre effectives de la base de données nationale sur la population, le représentant du ministère de la Sécurité publique a proposé trois solutions pour minimiser les risques liés à l’IA.

Premièrement, il faut rapidement compléter le couloir juridique sur l’IA pour anticiper la tendance, publier des documents réglementant l’éthique dans le processus de développement, de production et d’application de l’IA, comme la protection de la vie privée, des données personnelles et des droits de l’homme des unités nationales et étrangères.

Selon M. Nguyen Anh Tuan, « le Vietnam dispose d'un décret sur la protection des données personnelles, mais son application pratique ne répond pas aux exigences de sécurité et de sûreté des données. » Il a donc proposé l'adoption d'une loi sur les données ou d'une loi sur la protection des données personnelles. De plus, il faudrait une réglementation plus claire sur les crimes liés à l'IA, ainsi que des normes spécifiques pour les plateformes de connexion, de partage et d'échange liées à l'IA.

Deuxièmement, il faut rechercher et appliquer des projets d'IA pour lutter contre les risques liés à l'IA. L'IA est créée par l'homme et est le fruit du savoir ; il existe donc des variantes de « bonne IA » et de « mauvaise IA ». Pour empêcher le développement de l'IA, on peut utiliser l'IA elle-même.

Troisièmement, le développement de l'IA doit aller de pair avec les questions de cybersécurité et de sécurité de l'information afin d'éviter les attaques et de contrôler les piratages aux conséquences graves. Le niveau de préoccupation des unités en matière de sécurité de l'information est insuffisant.

Pour le Département de la police administrative pour l'ordre social, il est nécessaire de maintenir la sécurité et la sûreté des systèmes, d'effectuer une bonne préparation, de sauvegarder et de restaurer régulièrement les données et d'organiser périodiquement des exercices de réponse aux incidents pour être prêt à faire face aux attaques intentionnelles de l'IA.

Renforcer le suivi et la supervision du processus de connexion et du partage d’informations avec les unités pour détecter rapidement les comportements inhabituels et les violations de la réglementation sur la protection des données personnelles lors de l’exploitation et du traitement des informations.

Enfin, créez et appliquez l’IA dans la surveillance des journaux, l’analyse du trafic réseau, en combinant l’apprentissage automatique et le langage naturel pour augmenter la précision lors de la prise de décisions de dépannage.