L'IA façonne l'avenir - 2e partie : Les défis qui en découlent

Le potentiel comporte des risques.

Il est indéniable que l'intelligence artificielle (IA) se révèle de plus en plus un outil puissant pour soutenir les travailleurs et faciliter la vie humaine. Cependant, ces produits technologiques sont comme une « arme à double tranchant » lorsqu'ils sont exploités par des personnes mal intentionnées pour commettre des fraudes et des cyberattaques.

Dans les bulletins d'alerte du Département de la sécurité de l'information ( Ministère de l'Information et des Communications ) et de l'Association de cybersécurité, de nombreux cas de fraude utilisant l'intelligence artificielle ont été recensés. Par exemple, Mme Nguyen Thanh T, employée de bureau à Hanoï, discutait avec une amie sur Facebook Messenger. Après avoir pris congé, son amie est revenue soudainement lui demander de l'argent et de faire un virement bancaire. Bien que le nom du compte corresponde à celui de son amie, Mme T, méfiante, a demandé un appel vidéo pour vérifier. Son amie a immédiatement accepté, mais l'appel n'a duré que quelques secondes en raison d'une connexion internet instable.

Voyant le visage de son amie en appel vidéo , et constatant que sa voix était bien la sienne, Mme T. a effectué le virement. Ce n'est qu'après la réussite de l'opération qu'elle a réalisé être tombée dans le piège d'un pirate informatique.

Mme T n'est pas la seule victime : de nombreuses autres personnes, amis et proches, ont également été escroquées de la même manière. Le montant des sommes dérobées par ces malfaiteurs, qui ont usurpé l'identité de personnes grâce à des techniques de deepfake et à des voix artificielles, se chiffre en dizaines de millions de dongs.

Un autre exemple typique d'utilisation de l'IA pour s'approprier des biens est le cas de M. NTH. Sur son téléphone Android, des escrocs ont tendu un piège contenant des instructions pour installer un logiciel malveillant. Ils ont ainsi pris le contrôle du téléphone et des comptes bancaires afin de transférer de l'argent à un tiers. De plus, le logiciel malveillant a automatiquement contacté les coordonnées disponibles et envoyé des messages automatiques demandant des transferts d'argent.

M. NTH a déclaré que l'imposteur, se faisant passer pour un policier , l'avait appelé et lui avait demandé de vérifier son identité. Âgé, peu familier avec l'informatique et naïf, la victime avait confié son téléphone à une tierce personne qui avait suivi les instructions de l'escroc, ce qui avait permis le téléchargement et l'installation de l'application malveillante « DichVuCong.apk » sur son appareil.

M. Tran Nguyen Chung, chef du département de la sécurité des systèmes d'information, a déclaré : « Avec le développement de l'intelligence artificielle, la détection et la distinction entre contenus authentiques et falsifiés sur Internet deviendront plus difficiles, et chacun pourra devenir une cible, une victime de cyberattaques perpétrées par des criminels utilisant l'IA. Toutefois, le risque d'en être victime dépendra des connaissances et des informations dont dispose chaque individu. »

Ce phénomène de fraude liée à l'intelligence artificielle n'est pas propre au Vietnam ; il touche également de nombreux pays à travers le monde. Actuellement, agences, organisations et grandes entreprises technologiques collaborent pour mettre au point des mesures et des solutions techniques permettant de détecter et de prévenir ce problème à la source.

Actuellement, il est essentiel de promouvoir la sensibilisation du public aux méthodes et techniques permettant de reconnaître et de contrer cette forme sophistiquée de falsification, afin de réduire et de limiter l'impact des deepfakes sur les activités en ligne. Il convient également de diffuser largement et de manière proactive des alertes dans les médias dès l'apparition de nouvelles formes de fraude.

« En cas de réception d'appels de chantage accompagnés d'images ou de vidéos sensibles, les personnes doivent garder leur calme, vérifier et rechercher soigneusement l'origine de ces images et vidéos », a déclaré M. Tran Nguyen Trung.

D'après le rapport de recherche « Identifier les risques pour l'économie mondiale en 2024 » de l'Université d'Économie (UEB) de l'Université Nationale du Vietnam à Hanoï, le secteur technologique représente l'un des principaux risques pour l'économie mondiale. Le rapport souligne que, face à l'essor rapide de l'intelligence artificielle (IA), les politiques de gestion n'ont pas su suivre le rythme de son développement. La désinformation véhiculée par l'IA, notamment en cette année marquée par de nombreuses élections à travers le monde, soulève de nombreuses questions de sécurité, de politique, de défense et de paix à l'échelle mondiale.

S'adressant aux journalistes du quotidien Tin Tuc, le vice-ministre des Sciences et des Technologies, Nguyen Hoang Giang, a déclaré : « Le Premier ministre a promulgué la décision n° 127/2021 relative à la stratégie nationale de recherche, de développement et d'application de l'intelligence artificielle jusqu'en 2030. Afin de la mettre en œuvre, le ministère des Sciences et des Technologies, ainsi que d'autres ministères et organismes, ont déployé des efforts considérables et concertés. Le ministère de la Justice, par exemple, s'est penché sur les aspects juridiques, tandis que le ministère de l'Information et des Communications a mené des recherches sur les technologies numériques. Le ministère des Sciences et des Technologies a également soutenu, mené des recherches et développé l'industrie 4.0, ainsi que des recherches et des applications en matière de développement des technologies de l'information, contribuant ainsi au développement des villes numériques et intelligentes. Toutefois, ce développement rapide et important a également engendré des aspects négatifs et des risques liés à l'IA, notamment son utilisation abusive par les cybercriminels à des fins de fraude, d'usurpation d'identité, de menaces, d'appropriation illicite, etc. »

Jusqu'à présent, parallèlement à la recherche, le ministère des Sciences et des Technologies et le gouvernement s'emploient activement à mettre en place un cadre juridique, en tirant les leçons des expériences d'autres pays développés, afin que le domaine de l'IA au Vietnam puisse développer son potentiel, favoriser son développement et garantir un contrôle strict, ainsi que le respect de l'éthique et de l'humanité dans le domaine de l'intelligence artificielle.

Le développement rapide des outils d'intelligence artificielle a soulevé de nombreuses questions relatives aux droits humains, à l'éthique, à la protection de la vie privée, à la sécurité des informations et à la responsabilité juridique. Comparé au reste du monde, le Vietnam n'en est qu'aux prémices du développement de l'IA. Il est donc nécessaire de mettre en place une réglementation et des politiques spécifiques en matière d'IA, adaptées à tous les aspects de la vie, de l'économie et de la société vietnamiennes.

Établir d'urgence un cadre juridique

La gestion des dérives de l'IA est également un sujet de discussion dans plusieurs pays. Le Parlement européen a approuvé le premier ensemble de règles fondamentales au monde encadrant l'intelligence artificielle. De nombreux experts estiment que ces règles permettront à l'UE d'atteindre un double objectif : minimiser l'impact négatif du développement technologique sur les utilisateurs et rattraper son retard sur les principaux concurrents sur le marché.

Peu de temps après, l’Assemblée générale des Nations Unies a adopté une résolution sur l’intelligence artificielle (IA), apportant un soutien mondial aux efforts internationaux visant à garantir que cette nouvelle technologie profite à tous les pays, respecte les droits de l’homme et soit « sûre, sécurisée et digne de confiance ».

M. Vu Ngoc Son, directeur technique de la Société nationale par actions de technologies de cybersécurité, a déclaré : « L’IA est une technologie au service de l’humanité, permettant l’automatisation de nombreuses étapes opérationnelles. C’est un outil puissant, utilisé à diverses fins, comme la fourniture de services de questions-réponses, la production de logiciels, etc. Cependant, l’IA présente aussi un aspect négatif lorsqu’elle tombe entre de mauvaises mains, dans le but de créer des contenus frauduleux et des codes malveillants pour attaquer les utilisateurs. Par conséquent, l’IA n’est pas un outil destiné à créer des produits ou à commettre des crimes ; la question essentielle est de savoir comment l’utiliser. »

« Je pense que les sanctions et les cadres juridiques n’ont pas suivi le rythme du développement de l’IA. Il nous faudra du temps pour élaborer et mettre en œuvre des politiques visant à limiter les risques liés à l’IA lorsqu’elle est utilisée à des fins malveillantes, notamment en ce qui concerne les droits humains, la sécurité, l’ordre public et la sûreté sociale », a déclaré M. Vu Ngoc Son.

Le Dr Dang Minh Tuan, directeur de l'Institut ATI du CMC, a déclaré : « D'une part, nous devons poursuivre la recherche et le développement de nouvelles technologies, ainsi que la mise à jour et l'étude des méthodes d'utilisation malveillante de l'IA. D'autre part, nous devons également promouvoir l'intégrité scientifique et professionnelle. Par conséquent, des ajustements et des investissements sont nécessaires, tant au niveau du contenu que des politiques spécifiques relatives à cet outil au Vietnam. En particulier, nous pouvons également utiliser les outils d'IA pour détecter les contenus et les codes malveillants. L'IA est comme une arme à double tranchant : elle engendre un processus d'impact continu et s'améliore constamment, avec pour objectif ultime de servir l'intérêt humain. »

Les experts affirment qu'il est impératif de contrôler de manière responsable le développement des produits de haute technologie, car l'incapacité à réglementer et à maîtriser la technologie entraînera des conséquences imprévisibles, causant des pertes pour l'économie et affectant chaque individu ainsi que la société dans son ensemble.

L’adoption de réglementations spécifiques et transparentes permettra non seulement de prévenir et de minimiser les risques que l’IA peut engendrer, mais aussi d’aider le Vietnam à attirer l’attention et les investissements des plus grandes entreprises technologiques mondiales, favorisant ainsi le développement du secteur national des technologies de l’information et de l’IA.

Article final : Développement parallèle et contrôle de l’IA

Source : https://doanhnghiepvn.vn/cong-nghe/ai-dang-dinh-hinh-tuong-lai-bai-2-nhung-thach-thuc-di-kem/20240614100957238