Convention de Hanoï : les experts proposent une « immunité numérique

Le lieutenant-colonel, docteur en criminologie Dao Trung Hieu, a déclaré que le développement de l'intelligence artificielle (IA) a profondément transformé la manière dont les individus créent, reçoivent et vérifient l'information. Des technologies telles que le deepfake, les voix de synthèse ou les images artificielles rendent la frontière entre le vrai et le faux plus floue que jamais.

Lieutenant Colonel, PhD, expert en criminologie Dao Trung Hieu. Photo : NVCC.

Selon les statistiques d’Europol (2024), environ 90 % du contenu en ligne actuel fait l’objet d’une intervention de l’IA à différents niveaux, dont 15 % présentent des signes de falsification intentionnelle.

Au Vietnam, le ministère de la Sécurité publique a enregistré une série de cas criminels d'utilisation de l'IA pour se faire passer pour des proches, des fonctionnaires de banque ou des agences d'État afin de s'approprier des biens, certains cas entraînant des pertes allant jusqu'à des dizaines de milliards de dongs.

Ce qui est inquiétant, ce ne sont pas seulement les dégâts matériels, mais aussi l'érosion de la confiance sociale, fondement de toutes les relations humaines. Alors que la vérité peut être rétablie, la confiance, fondement de toutes les relations sociales, devient la première cible des attaques.

« Les phénomènes ci-dessus ne sont pas simplement une transformation des outils criminels, mais une refonte de l'espace du comportement criminel, avec des caractéristiques complètement nouvelles : intangible, transfrontalier, anonyme et auto-apprenant », a déclaré le colonel supérieur Dao Trung Hieu.

La transformation de la structure du comportement criminel à l'ère de l'IA

Le lieutenant-colonel Dao Trung Hieu a déclaré que les crimes à l'ère de l'IA ne se limitent plus à l'espace physique. Les actes criminels sont perpétrés au moyen de modèles de données, d'algorithmes et de systèmes de génération automatisés, permettant aux individus et aux organisations de falsifier l'authenticité de toutes sortes d'informations.

Si dans les crimes traditionnels, les traces physiques (preuves, scènes de crime, témoins) constituent la base principale, dans les crimes de haute technologie, ce sont les traces numériques qui sont essentielles. L'IA permet aux criminels d'exploiter deux capacités dangereuses : la réalité synthétique, qui incite le destinataire à croire à quelque chose qui n'existe pas, et l'érosion de l'attribution, qui rend difficile la localisation de l'origine du comportement.

D’un point de vue criminologique, il est possible de constater un changement dans la structure des quatre éléments du crime :

Premièrement, le Sujet n’est plus un individu unique mais peut être un système automatisé, ou un groupe de personnes le contrôlant à distance ;

Deuxièmement, l’objet violé n’est pas seulement une propriété, un honneur ou des données, mais aussi la confiance sociale – une valeur intangible mais d’une importance fondamentale ;

Troisièmement, les moyens de commettre des crimes sont programmés, auto-apprenants, difficiles à contrôler et peuvent être reproduits indéfiniment ;

Quatrièmement, les conséquences sociales ne s’arrêtent pas aux dommages économiques , mais s’étendent à la psychologie, à la moralité et à la sécurité nationale.

« Ainsi, l’intelligence artificielle non seulement soutient les humains dans la créativité et la production, mais restructure également les comportements déviants, faisant du concept de « criminologie numérique » une nouvelle direction de recherche de la science criminelle moderne », a déclaré M. Hieu.

Passer de l'enquête traditionnelle à l'enquête dans l'espace des données

M. Hieu a déclaré que l'émergence de la criminalité basée sur l'IA oblige les services d'enquête à innover dans leurs méthodes de travail. Au lieu d'enquêter a posteriori, il est nécessaire d'analyser les données en parallèle, en collectant et en analysant le flux d'informations au fur et à mesure que les faits se produisent.

Des techniques telles que l’analyse des traces par l’IA sont en cours de recherche, qui permettent de récupérer des caractéristiques spécifiques de chaque modèle génératif, similaires aux « empreintes digitales numériques » en criminalistique numérique.

Au Vietnam, des unités professionnelles du ministère de la Sécurité publique se sont coordonnées avec des entreprises technologiques pour créer une base de données d'échantillons de reconnaissance vocale, faciale et vidéo créés par l'IA.

Parallèlement, l'infrastructure juridique doit également être améliorée. Il est nécessaire d'ajouter le délit d'« utilisation de l'intelligence artificielle pour commettre des infractions » aux études de modification du Code pénal, et parallèlement, des réglementations spécifiques concernant les responsabilités des propriétaires et des exploitants de systèmes d'IA doivent être mises en place.

Il est plus important de passer d'une logique de « traque du coupable » à une logique de « prévention proactive ». À une époque où une fausse vidéo peut se propager plus vite qu'une annonce officielle, la capacité à réagir rapidement et à coordonner toutes les parties prenantes, y compris l'État, les entreprises et la communauté, devient un facteur clé.

Immunité numérique, « anticorps » à l’ère de l’IA

Le lieutenant-colonel Dr Dao Trung Hieu a mis l'accent sur le concept d'« immunité numérique », qui désigne la capacité de la société à s'identifier et à réagir aux fausses informations. Pour instaurer cette immunité numérique, il est nécessaire, selon lui, de faire converger trois groupes de solutions.

La cérémonie de signature de la Convention des Nations Unies contre la cybercriminalité a eu lieu à Hanoi le 25 octobre. Photo : Gouvernement.

Premièrement, il faut créer un cadre juridique flexible et évolutif, garantissant un équilibre entre contrôle et innovation. Les lois ne doivent pas « encadrer » l'IA, mais être flexibles pour s'adapter aux évolutions technologiques rapides, tout en garantissant le principe de double responsabilité : les personnes ou les organisations utilisant l'IA doivent être responsables des produits qu'elles créent.

Deuxièmement, établir un mécanisme national d'identification des contenus générés par l'IA, grâce à des normes d'authentification de l'origine numérique (filigrane IA, code de provenance). Les plateformes numériques devraient être tenues d'étiqueter ou de vérifier les contenus générés par l'IA, afin d'aider les utilisateurs à distinguer le vrai du faux dès la réception.

Troisièmement, l'éducation et les réseaux sociaux constituent une ligne de défense à long terme. Les lois peuvent réguler les comportements, mais seule l'éducation peut réguler la sensibilisation. Intégrer des connaissances sur la sécurité des données, la reconnaissance des fausses nouvelles et l'éthique technologique dans l'enseignement général et les cursus universitaires créera une classe de citoyens dotés d'« anticorps numériques », fondements durables d'une société sûre.

Selon M. Hieu, l'intelligence artificielle n'est pas seulement une avancée technologique, mais aussi un test moral et juridique pour l'humanité. Lorsque les machines peuvent recréer la vérité, les humains sont contraints d'apprendre à protéger la seule croyance qui ne puisse être programmée.

Le Vietnam doit prendre l’initiative de manière proactive en construisant un cadre juridique flexible, en renforçant la coopération public-privé dans la prévention de la criminalité liée à l’IA et en promouvant l’éducation à l’immunité numérique pour la population.

« À l'ère de l'intelligence artificielle, une société sûre n'est pas celle qui dispose des pare-feu les plus robustes, mais celle qui compte les citoyens les plus vigilants. Si les données sont le carburant de l'ère numérique, alors la confiance en est le moteur. Sans confiance, tout système s'effondre, quelle que soit la technologie utilisée », a souligné le criminologue.

Le 25 octobre, la cérémonie de signature de la Convention des Nations Unies contre la cybercriminalité, dont le thème était « Lutte contre la cybercriminalité – Partage des responsabilités – Perspectives d'avenir », s'est tenue à Hanoï. La Convention de Hanoï est considérée comme une étape importante dans la construction du premier cadre juridique mondial visant à coordonner les efforts conjoints pour lutter contre la cybercriminalité. Il s'agit d'une étape historique non seulement pour la communauté internationale, mais aussi pour affirmer le rôle et la position du Vietnam sur la scène internationale.

Source : https://khoahocdoisong.vn/cong-uoc-ha-noi-chuyen-gia-de-xuat-mien-dich-so-truoc-thach-thuc-ai-post2149063689.html