Empêcher la technologie de franchir les limites éthiques

L’utilisation de plus en plus répandue de l’IA à des fins contraires à l’éthique a suscité des demandes urgentes de contrôle des technologies et de responsabilisation accrue des utilisateurs.

Avec son développement rapide, l'intelligence artificielle (IA) engendre une véritable révolution dans de nombreux domaines, de la santé à l'éducation , en passant par le commerce et la vie quotidienne. Cependant, les aspects négatifs de cette technologie posent des défis considérables en matière de gestion et de contrôle de l'information dans le cyberespace.

Inondés de fausses informations générées par l'IA

Les fausses informations générées par l'IA sont diffusées sur les plateformes de médias sociaux principalement pour attirer des vues, des « j'aime », accroître les interactions afin de vendre en ligne ou de tirer profit de la plateforme.

Les personnes qui créent de fausses informations s'inspirent souvent de sujets d'actualité brûlants qui préoccupent le public. Par exemple, après un grave accident de la route survenu le 17 septembre au marché de Tan Long, dans la commune de Lao Bao, province de Quang Tri , qui a fait 12 morts et blessés, de nombreuses images bouleversantes sont apparues sur les réseaux sociaux, provoquant l'émotion de nombreux internautes. Ayant déterminé que ces images avaient été créées par une intelligence artificielle, la police de la commune de Lao Bao a émis un avertissement concernant la diffusion de fausses images susceptibles d'induire en erreur. Ce type d'acte contribue non seulement à la propagation de fausses informations, mais nuit également à l'enquête.

De même, profitant de l'attention médiatique suscitée par le naufrage du bateau touristique Blue Bay 58 dans la baie d'Ha Long, province de Quang Ninh, le 19 juillet, qui a coûté la vie à des dizaines de personnes, de nombreux comptes sur les réseaux sociaux ont publié des images et des témoignages émouvants concernant les victimes. Cependant, une grande partie de ces contenus étaient faux, créés à l'aide d'intelligence artificielle pour susciter l'émotion et générer des interactions sur les réseaux sociaux. Il est à noter que la diffusion massive de ces fausses images, au contenu exagérément compatissant, risque d'aggraver le traumatisme émotionnel des familles des victimes.

Grâce aux progrès constants de l'intelligence artificielle, il suffit de quelques minutes et de commandes simples pour créer une vidéo au contenu attrayant, fidèle aux intentions de l'utilisateur. Les plateformes d'IA de nouvelle génération, telles que KlingAI, Veo 3 et Sora, sont particulièrement populaires auprès des utilisateurs du monde entier, y compris au Vietnam.

Par ailleurs, la technologie deepfake – qui combine apprentissage profond et contrefaçon – suscite une vive inquiétude à l'échelle mondiale, car elle permet de créer des images, des sons ou des vidéos d'un réalisme saisissant, très difficiles à déceler comme truqués. De ce fait, de nombreuses escroqueries liées à cette technologie ont eu lieu au Vietnam et dans le monde entier.

Le lieutenant-général Nguyen Minh Chinh, vice-président permanent de l'Association nationale de cybersécurité, a constaté une tendance croissante à l'utilisation abusive de l'IA à des fins illégales. En particulier, les cybercriminels exploitent l'IA en tant que service (fournissant des outils et applications d'IA) pour créer des codes malveillants, de fausses voix, de faux visages, de faux textes, etc., afin de commettre des fraudes, d'attaquer des réseaux, d'infiltrer des systèmes de données, voire de provoquer une instabilité de la sécurité et de nuire à la réputation des organisations, des entreprises et de leurs dirigeants.

Selon M. Tran Ngoc Anh, directeur technique de CyberPeace Company Limited (CyPeace), l'un des risques pour les utilisateurs d'IA est de recevoir de fausses informations générées par cet outil lui-même. S'y ajoutent d'autres problèmes tels que la divulgation d'informations confidentielles et de données personnelles.

De fausses images sont diffusées sur Internet pour « faire pleurer » les internautes, attirant ainsi des « j’aime » et augmentant les interactions (Capture d’écran).

Accroître la responsabilité des utilisateurs

Avant que des mesures technologiques et juridiques ne soient mises en place pour contrôler strictement le développement et l'utilisation de l'IA, les utilisateurs doivent adopter une approche proactive et responsable pour utiliser cette technologie.

Vu Ngoc Son, expert en cybersécurité et directeur du département technologique de l'Association nationale de cybersécurité, a souligné que les humains sont les acteurs de l'exploitation et de l'utilisation de l'IA. Par conséquent, les avantages et les inconvénients de l'IA sont étroitement liés à l'humain. Si les utilisateurs sont compétents et l'emploient à bon escient, la technologie déploiera tout son potentiel. En revanche, si les utilisateurs manquent de compréhension ou exploitent l'IA à des fins illégales, cela peut avoir de graves conséquences. « Pour utiliser et exploiter efficacement l'IA, il est essentiel de se concentrer sur la mise en place d'équipes et de processus performants. L'IA ne révèle tout son potentiel que lorsqu'elle est entre les mains de ceux qui savent la maîtriser », a déclaré l'expert en cybersécurité.

Face au danger que représentent les deepfakes, principal outil de fraude technologique actuel, le ministère des Finances a souligné, lors de l'élaboration de la loi sur l'investissement et les entreprises : les activités liées aux deepfakes doivent être réglementées comme un secteur d'activité soumis à conditions afin de prévenir les abus technologiques susceptibles d'entraîner des perturbations de l'information et des fraudes. Selon le ministère des Finances, les activités liées aux deepfakes constituent actuellement un domaine émergent présentant des risques complexes pour la sécurité et l'ordre public, mais ne sont pas encore soumises à une réglementation spécifique.

Selon l'avocat Tran Anh Tuan (Barreau de Hanoï), l'utilisation de l'IA pour créer du contenu sans autorisation, notamment de fausses informations ou des informations frauduleuses, peut constituer une infraction au Code civil. Les contrevenants s'exposent alors à des sanctions administratives ou au versement de dommages et intérêts. Dans les cas les plus graves, des poursuites pénales peuvent être engagées. « Les utilisateurs doivent faire preuve de prudence lorsqu'ils utilisent l'IA, éviter absolument d'en tirer profit pour générer des vues et des "j'aime", et assumer leur responsabilité individuelle et respecter la loi, tant dans leur utilisation de l'IA que dans leurs interactions en ligne », a recommandé l'avocat Tuan.

Le lieutenant-général Nguyen Minh Chinh a souligné que les ressources humaines constituent le facteur essentiel d'un développement durable de l'IA. Chercheurs, ingénieurs, experts en cybersécurité, gestionnaires et utilisateurs : tous doivent posséder les connaissances, les compétences, l'éthique et la sensibilisation juridique nécessaires. Selon M. Chinh, il s'agit non seulement de l'équipe qui conçoit et exploite les systèmes d'IA, mais aussi de la force motrice essentielle pour prévenir, détecter et combattre la cybercriminalité.

Le Vietnam se dotera d'une loi sur l'intelligence artificielle

Lors d'une récente conférence scientifique nationale sur l'IA, le ministre des Sciences et des Technologies, Nguyen Manh Hung, a déclaré que l'IA offre de formidables opportunités, mais soulève également de nombreuses questions d'éthique, d'emploi et de confiance sociale. Par conséquent, son développement doit être rapide, sûr et respectueux de l'humanité.

Selon le ministre Nguyen Manh Hung, l'IA ne remplace pas l'humain, elle est à son service, elle l'assiste. L'IA est un outil puissant, mais ce sont les humains qui prennent les décisions ; il faut donc que l'IA les soutienne, sans se substituer à leur réflexion, leurs valeurs et leurs responsabilités. « Le ministère des Sciences et des Technologies publiera un code de déontologie national pour l'IA, conforme aux normes internationales mais adapté au contexte vietnamien, et élaborera simultanément une loi et une stratégie sur l'IA », a précisé le ministre Nguyen Manh Hung.

Source : https://nld.com.vn/ngan-cong-nghe-vuot-ranh-gioi-dao-duc-196250923205638915.htm