L'IA façonne l'avenir - 2e partie : Les défis qui en découlent.

Le potentiel comporte des risques.

L’intelligence artificielle (IA) s’avère indéniablement un outil de plus en plus puissant pour soutenir les travailleurs et faciliter la vie des gens. Cependant, ces produits technologiques sont comme une « arme à double tranchant » lorsque des personnes mal intentionnées les exploitent à des fins de fraude et de cyberattaques.

Les avertissements relatifs à la sécurité informatique, émanant du Département de l'information et des communications ( Ministère de l'information et des communications ) ou de l'Association de cybersécurité, font état de nombreux cas recensés de fraudes utilisant l'intelligence artificielle. Par exemple, Mme Nguyen Thanh T, employée de bureau à Hanoï, discutait avec une amie via Facebook Messenger. Après avoir dit au revoir et mis fin à la conversation, son amie l'a soudainement recontactée, lui demandant de l'argent par virement bancaire. Bien que le nom du compte corresponde à celui de son amie, Mme T, méfiante, a demandé un appel vidéo pour vérification. Son amie a accepté sans hésiter, mais l'appel n'a duré que quelques secondes en raison d'une connexion internet instable.

Après avoir vu le visage de son amie lors de l'appel vidéo et reconnu sa voix, Mme T a effectué le virement. Ce n'est qu'une fois le transfert réussi qu'elle a réalisé être tombée dans un piège de pirate informatique.

Non seulement Mme T., mais de nombreuses autres victimes, dont des amis et des proches, ont également été victimes d'escroqueries similaires. Le montant des sommes détournées par les escrocs grâce à l'usurpation d'identité via des techniques de deepfake et de manipulation vocale se chiffre en dizaines de millions de dongs.

Un autre exemple flagrant d'utilisation de l'IA pour voler des biens est le cas de M. NTH, qui, via son téléphone Android, a été piégé et a installé un logiciel malveillant. Ce dernier a permis aux escrocs de prendre le contrôle de son téléphone et de ses comptes bancaires afin de transférer de l'argent à un tiers. De plus, le logiciel malveillant a automatiquement contacté ses contacts, leur envoyant des messages automatisés demandant des transferts d'argent.

M. NTH a déclaré que l'imposteur, se faisant passer pour un policier , l'avait appelé et avait demandé une vérification d'identité. Du fait de son âge, de sa méconnaissance des technologies et de sa crédulité, la victime a confié son téléphone à une tierce personne qui a suivi les instructions de l'escroc, ce qui a entraîné le téléchargement et l'installation de l'application malveillante « DichVuCong.apk » sur son téléphone.

M. Tran Nguyen Chung, directeur du département de la sécurité des systèmes d'information (Agence de sécurité de l'information), a déclaré : « Avec le développement de l'intelligence artificielle, la détection et la distinction entre contenus authentiques et falsifiés dans le cyberespace deviendront plus difficiles, et chacun peut devenir la cible ou la victime de cyberattaques perpétrées par des criminels utilisant l'IA. Cependant, le risque d'être victime dépendra du niveau de connaissances et d'informations dont dispose la personne concernée. »

Ce type de fraude utilisant l'intelligence artificielle n'est pas propre au Vietnam ; elle existe dans de nombreux pays du monde. Actuellement, des agences, des organisations et de grandes entreprises technologiques collaborent pour trouver des solutions techniques permettant de la détecter et de la prévenir à la source.

Actuellement, il est crucial d'intensifier la communication et de sensibiliser le public aux méthodes, tactiques et moyens d'identifier et de contrer cette forme sophistiquée de fraude, afin de réduire et de limiter l'impact des deepfakes sur les activités en ligne. Des alertes proactives doivent être largement diffusées par les médias dès l'apparition de nouvelles formes de fraude.

« En cas de réception d'appels de chantage contenant des images ou des vidéos sensibles, les personnes doivent rester calmes, vérifier et enquêter minutieusement sur la source de ces images ou vidéos », a déclaré M. Tran Nguyen Trung.

D'après le rapport de recherche « Identifier les risques pour l'économie mondiale en 2024 » de l'Université d'économie (UEB) de l'Université nationale du Vietnam à Hanoï, l'un des risques pesant sur l'économie mondiale réside dans le secteur technologique. Le rapport souligne que, malgré l'essor rapide de l'intelligence artificielle (IA), les politiques de gestion n'ont pas suivi le rythme de son développement. La désinformation propagée par l'IA, notamment en cette année marquée par de nombreuses élections à travers le monde, a constitué et continue de constituer un défi majeur pour la sécurité, la politique, la défense et la paix internationales.

S'adressant à un journaliste du quotidien Tin Tuc, le vice-ministre des Sciences et des Technologies, Nguyen Hoang Giang, a déclaré : « Le Premier ministre a promulgué la décision n° 127/2021 relative à la stratégie nationale de recherche, de développement et d'application de l'intelligence artificielle à l'horizon 2030. Afin de la mettre en œuvre, le ministère des Sciences et des Technologies, ainsi que d'autres ministères et secteurs, s'y emploient activement et de manière concertée. Le ministère de la Justice se consacre par exemple à la recherche sur les aspects juridiques, le ministère de l'Information et des Communications à la recherche sur les technologies numériques, et le ministère des Sciences et des Technologies soutient, étudie et développe l'Industrie 4.0, ainsi que les technologies de l'information au service du développement des villes numériques et intelligentes. Toutefois, ce développement rapide et important a également fait émerger des aspects négatifs et des risques liés à l'IA, notamment son utilisation abusive comme outil de cybercriminalité à des fins de fraude, d'usurpation d'identité, de menaces et de vol. »

À ce jour, parallèlement à la recherche, le ministère des Sciences et des Technologies et le gouvernement s'emploient activement à mettre en place un cadre juridique et à tirer des enseignements des expériences d'autres pays développés afin que le secteur de l'IA au Vietnam puisse libérer son potentiel, promouvoir son développement et garantir un contrôle strict, des normes éthiques et le respect des droits de l'homme dans le domaine de l'intelligence artificielle.

Le développement rapide des outils d'intelligence artificielle a soulevé de nombreuses questions relatives aux droits humains, à l'éthique, à la protection de la vie privée, à la sécurité des informations et à la responsabilité juridique. Comparé au reste du monde, le Vietnam n'en est qu'aux prémices du développement de l'IA. Par conséquent, des réglementations et des politiques spécifiques en matière d'IA, adaptées à tous les aspects de la vie, de l'économie et de la société vietnamiennes, sont nécessaires.

Publication urgente d'un cadre réglementaire et juridique.

La gestion des aspects négatifs de l'IA est également un sujet de discussion dans plusieurs pays. Le Parlement européen a approuvé le premier code de conduite fondamental au monde pour la réglementation de l'intelligence artificielle. De nombreux experts estiment que ce code permettra à l'UE d'atteindre deux objectifs : minimiser l'impact négatif du développement technologique sur les utilisateurs et rattraper son retard sur les principaux concurrents sur le marché.

Peu de temps après, l’Assemblée générale des Nations Unies a adopté une résolution sur l’intelligence artificielle (IA), apportant un soutien mondial aux efforts internationaux visant à garantir que cette nouvelle technologie profite à tous les pays, respecte les droits de l’homme et soit « sûre, sécurisée et digne de confiance ».

M. Vu Ngoc Son, directeur technique de la Société nationale par actions de technologies de cybersécurité, a déclaré : « L’IA est une technologie au service de l’humanité, qui permet d’automatiser de nombreux processus opérationnels. C’est un outil puissant utilisé à diverses fins, comme la fourniture de services de réponse aux questions, la production de logiciels, etc. Cependant, l’IA présente aussi un risque lorsqu’elle tombe entre de mauvaises mains et sert à créer des contenus frauduleux et des logiciels malveillants pour attaquer les utilisateurs. Par conséquent, l’IA n’est pas un outil exclusivement destiné à la création de produits ou à la commission de crimes ; la question essentielle est de savoir comment elle est utilisée. »

« Je crois que la réglementation et le cadre juridique actuels n'ont pas encore suivi le rythme du développement rapide de l'IA. Il nous faudra du temps pour élaborer et mettre en œuvre des politiques visant à limiter les risques d'utilisation malveillante de l'IA, qui pourraient porter atteinte aux droits de l'homme, à la sécurité sociale, à l'ordre public et à la sûreté », a commenté M. Vu Ngoc Son.

Le Dr Dang Minh Tuan, directeur de l'Institut ATI de la CMC, a déclaré : « D'une part, nous devons poursuivre la recherche et le développement de nouvelles technologies, ainsi que la mise à jour et l'étude des méthodes utilisées à des fins malveillantes grâce à l'IA. D'autre part, nous devons également défendre l'intégrité scientifique et professionnelle. Par conséquent, des ajustements et des investissements sont nécessaires dans les politiques spécifiques relatives à cet outil au Vietnam. En particulier, nous pouvons également utiliser des outils d'IA pour détecter les contenus et les codes malveillants. L'IA est comme une arme à double tranchant : elle engendre un processus continu, permanent et en constante amélioration, dont le but ultime est de servir l'intérêt général. »

Les experts affirment qu'un contrôle responsable du développement des produits de haute technologie est crucial, car l'incapacité à réglementer et à maîtriser la technologie entraînera des conséquences imprévisibles, causant des pertes pour l'économie et affectant les individus et la société dans son ensemble.

L’adoption de réglementations spécifiques et transparentes permettra non seulement de prévenir et d’atténuer les risques que l’IA peut engendrer, mais aussi d’aider le Vietnam à attirer l’attention et les investissements des principales entreprises technologiques mondiales, favorisant ainsi le développement du secteur national des technologies de l’information et de l’IA.

Article final : Développer et contrôler l’IA en parallèle.

Source : https://doanhnghiepvn.vn/cong-nghe/ai-dang-dinh-hinh-tuong-lai-bai-2-nhung-thach-thuc-di-kem/20240614100957238