Soyez prudent avec les images générées par l'IA lorsque la sécurité de l'information est menacée.

La tendance à créer des images à l'aide de l'IA se répand, posant un risque de désinformation et affectant la cybersécurité et la souveraineté nationale lors des grandes fêtes.

À l'ère du développement technologique rapide, la tendance à utiliser l'intelligence artificielle (IA) pour créer des images se répand sur les réseaux sociaux, attirant l'attention de nombreux utilisateurs, notamment les jeunes. Les photos générées par l'IA sont très créatives et servent à divertir, à personnaliser le contenu et à exprimer sa personnalité. Cependant, cet engouement s'accompagne de risques potentiels pour la sécurité et la protection des données.

Divertissement ou élément déclencheur potentiel ?

Selon la police de Hanoï , l'utilisation de l'intelligence artificielle (IA) pour créer des images a récemment connu un essor important, attirant l'attention de nombreux internautes. Bien que principalement destinées au divertissement, la diffusion de ces images présente de nombreux risques, affectant directement la sécurité et la protection des informations, notamment à l'occasion du 80e anniversaire de la Révolution d'août et de la Fête nationale du 2 septembre.

Actuellement, les utilisateurs peuvent facilement accéder à des images, en créer et les utiliser comme avatars, ou encore intégrer des actualités et des articles sur les réseaux sociaux tels que Zalo, TikTok et Facebook. Cependant, par manque de vigilance, de sensibilité politique et de contrôle sur les images générées par l'IA, ils risquent d'utiliser des images inexactes, comme par exemple des cartes du Vietnam omettant les archipels de Hoang Sa et Truong Sa, des images inappropriées pour la population vietnamienne. L'utilisation de ces images inexactes peut fortement influencer l'opinion publique en ligne et engendrer une perception erronée de la souveraineté territoriale, de l'histoire et des traditions culturelles nationales.

Une intelligence artificielle crée l'image d'un ao dai imprimé d'une carte du Vietnam omettant les archipels de Hoang Sa et Truong Sa. (Photo : Police municipale de Hanoï)

À Hanoï, un utilisateur des réseaux sociaux a utilisé un logiciel d'intelligence artificielle pour créer une photo d'un ao dai orné d'une carte du Vietnam, puis l'a publiée sur TikTok pour surfer sur la vague de la « fierté nationale ». Cependant, l'image générée par l'IA ne comportait pas les îles Paracels et Spratleys. La publication est rapidement devenue virale, cumulant des milliers de vues et de partages, mais a également suscité une vive indignation au sein de la communauté en ligne. Les autorités sont intervenues, exigeant le retrait du contenu et mettant en garde contre la diffusion de fausses informations relatives à la souveraineté nationale.

Avertissement des autorités

Selon M. Vu Ngoc Son, directeur technique de la Société nationale vietnamienne de technologies de cybersécurité (NCS), l'intelligence artificielle et les applications basées sur l'IA connaissent un développement fulgurant dans de nombreux domaines. ChatGPT, une application particulièrement accessible au grand public, même aux non-spécialistes en informatique, a rapidement suscité un vif intérêt.

Sur le plan technologique, ChatGPT ne représente pas une révolution par rapport aux autres technologies d'IA existantes. Cependant, en matière de données, ChatGPT a rencontré un franc succès grâce à l'immense quantité de données issues de nombreux domaines, donnant aux utilisateurs l'impression de tout savoir. C'est d'ailleurs ce qui explique le succès de ChatGPT à ce jour.

En matière de sécurité, ChatGPT étant conçu pour fournir des services de questions-réponses, le principal risque réside dans la possibilité que le contenu des réponses fournies aux utilisateurs soit manipulé et « empoisonné » afin de diffuser de fausses informations. À l'heure actuelle, rien ne prouve que ChatGPT soit vulnérable aux attaques, car les données saisies sont contrôlées, filtrées et même étiquetées par des humains au sein de l'entreprise, ce qui limite les risques mentionnés. Cependant, à l'avenir, avec l'expansion continue du service et l'augmentation considérable des besoins en données, les développeurs devront renforcer leurs mesures de sécurité afin d'optimiser le contrôle des données.

Les logiciels d'intelligence artificielle peuvent apporter de nombreux avantages, notamment la capacité de créer des images attrayantes et créatives, mais utilisés de manière irresponsable, ils peuvent se révéler être une arme à double tranchant. Le Département de la cybersécurité et de la prévention de la cybercriminalité de la police de Hanoï recommande :

1. Il est absolument interdit de créer et d'utiliser des images de la carte du Vietnam ou des images incorrectes, qui enfreignent la loi ou qui sont incompatibles avec les traditions, les coutumes et la culture vietnamiennes.

2. Diffusez régulièrement les informations d'alerte auprès de vos proches, de vos amis et de la communauté afin de sensibiliser la population et de prévenir les complots et les manœuvres des forces hostiles. Ne laissez personne profiter des grands événements politiques du pays pour commettre des actes illégaux.

3. Soyez prudent lorsque vous installez et utilisez des applications d'IA non vérifiées afin d'éviter le risque de collecte de vos données personnelles.

4. Faites preuve de responsabilité envers vous-même et envers la communauté lorsque vous participez à des activités sur les réseaux sociaux.

Les infractions seront traitées strictement conformément aux dispositions légales.

En tant qu'utilisateur, chacun doit faire preuve d'une responsabilité claire lorsqu'il participe à la vie numérique. « Suivre les tendances » ne doit pas se traduire par l'ignorance ou le soutien involontaire à des actes répréhensibles. Quant aux médias, leur rôle ne se limite pas à rapporter l'information ; ils doivent aussi orienter l'opinion publique et contribuer à la protection de la vérité et des valeurs nationales.

Source : https://khoahocdoisong.vn/can-trong-voi-anh-tao-tu-ai-khi-an-ninh-thong-tin-bi-de-doa-post2149050868.html