Bloquer la « vague » de fausses vidéos qui attirent les vues après la catastrophe

À l'ère du fort développement de l'intelligence artificielle, les fausses vidéos créées par l'IA deviennent des « armes d'information » dangereuses, en particulier lorsqu'elles sont utilisées pour recréer des catastrophes et des accidents afin d'attirer des vues, de gagner de l'argent et même de commettre des fraudes.

L’acte d’utiliser la technologie pour déformer la vérité viole non seulement l’éthique et la loi, mais nuit également profondément à la psychologie du spectateur, affecte gravement la famille de la victime et sape la confiance dans la communauté.

De fausses images générées par l'IA du navire chaviré dans la baie d'Ha Long.

Tragédie virtuelle, dégâts réels

Le naufrage du navire de croisière Blue Bay 58 dans la baie d'Ha Long en juillet dernier a non seulement laissé des conséquences déchirantes pour les victimes et leurs familles, mais a également servi d'avertissement sur le phénomène de l'exploitation contraire à l'éthique de l'information dans le cyberespace.

Quelques heures seulement après l'incident, une série de vidéos de « reconstitution » ont rapidement circulé sur des plateformes comme TikTok et Facebook. Des images d'enfants en pleurs, d'adultes hurlant au milieu d'une vaste étendue d'eau, des sirènes de secours résonnant dans l'air… ont fait frémir les spectateurs. Cependant, la plupart de ces vidéos étaient des produits recréés par l'IA ou détournés de sources non pertinentes, ne reflétant absolument pas la réalité.

Une photo ordinaire d'un groupe d'enfants lors d'un voyage à Ha Long en août 2024 a également été transformée en « dernière image avant la catastrophe » du navire chaviré, partagée par de nombreuses pages de fans avec des légendes sympathiques.

Émue, la chanteuse Thai Thuy Linh a partagé cette photo sur sa page personnelle avec un message commémoratif, avant que le propriétaire de la photo, M. NT, ne demande une correction et un retrait car la photo avait été déformée.

Non seulement les célébrités, mais de nombreux autres comptes de réseaux sociaux ont également été victimes de fausses vidéos et d’images déformées lorsqu’ils ont partagé du faux contenu avec innocence et sympathie.

Non seulement le navire a chaviré dans la baie d'Ha Long, mais auparavant, de nombreuses vidéos ont également « recréé » les conséquences des tempêtes et des inondations dans le village de Lang Nu (province de Lao Cai ) l'année dernière, ou d'anciens accidents de la circulation d'il y a de nombreuses années ont également été « ramenés à la vie » dans de nouvelles catastrophes par l'IA.

Ces clips, aux angles de caméra saisissants et aux voix narratives tragiques, se terminent souvent par la promesse de « regarder le prochain épisode pour savoir ce qui s'est passé » ou par un appel à partager au nom des victimes. En exploitant les émotions et la curiosité des utilisateurs, les faux contenus se propagent à une vitesse fulgurante, repoussant les limites entre le vrai et le faux.

Face à cette situation, le Dr Bui Hoai Son, professeur associé et membre permanent de la Commission de la culture et de la société de l'Assemblée nationale, a déclaré qu'à l'ère de l'explosion de l'information, de nombreuses personnes se laissent entraîner dans un labyrinthe de fausses nouvelles et de vidéos high-tech mises en scène à l'apparence « réaliste ». Elles croient involontairement à des choses qui ne sont pas réelles, tout en doutant des valeurs dignes de confiance. Cette situation est préoccupante et menace la conscience sociale et la confiance des citoyens.

L’impact de ces contenus toxiques ne s’arrête pas aux émotions passagères, mais de nombreuses personnes déclarent également être gravement affectées psychologiquement après avoir été exposées à des vidéos tragiques et douloureuses.

Mme Nguyen Thanh Ha, propriétaire d'une boutique de cartes SIM située au 145, rue Ngoc Lam (quartier Bo De, Hanoï), a déclaré : « Je suis hantée au point d'en être insomniaque après avoir vu des vidéos d'accidents et d'enfants en pleurs. Quand j'ai réalisé que c'était un faux, je me suis sentie offensée. Plus inquiétant encore, de nombreuses personnes profitent de la sympathie des spectateurs pour leur associer des codes QR, des comptes de soutien, des ventes déguisées… transformant ainsi de véritables émotions en outils de profit flagrants. »

Comment distinguer le vrai du faux à l'ère de l'IA

Le développement de l'intelligence artificielle (IA) offre de nombreuses possibilités, mais s'accompagne également d'une « pandémie de fausses informations » sans précédent. Selon les experts de la Cyber ​​Security Association, la création de fausses images et vidéos est désormais plus facile et plus sophistiquée, ce qui rend difficile pour les utilisateurs de distinguer le vrai du faux. En particulier, le manque de vigilance et l'habitude de partager des informations non vérifiées sur les réseaux sociaux favorisent la propagation rapide des fausses informations.

L'avocate Bui Thi Mai, du Barreau de Hanoi, a déclaré que l'utilisation de l'IA pour créer de faux contenus liés à des catastrophes afin d'attirer des vues et des profits est inacceptable et doit être strictement réprimée. Il est essentiel de se former activement aux technologies et au droit et de ne faire confiance qu'aux sources d'information officielles, aux pages de fans réputées ou aux personnes de confiance. Utiliser les réseaux sociaux de manière intelligente et légale permet non seulement de se protéger, mais aussi de prévenir les fausses informations et de maintenir un environnement en ligne sain et civilisé.

Partageant le même point de vue, le Dr Bui Hoai Son, professeur associé, a proposé la solution suivante : des mesures plus strictes sont nécessaires pour lutter contre les fausses informations et les fausses vidéos, non seulement sur les plateformes numériques, mais aussi au niveau juridique. Actuellement, le Code pénal, la Loi sur la cybersécurité et les décrets connexes prévoient des dispositions pour lutter contre les actes de diffamation, de falsification et de fraude dans le cyberespace, mais elles doivent être strictement appliquées, et de nouvelles réglementations pourraient même être ajoutées pour faire face au danger croissant des fausses informations liées aux catastrophes. Par ailleurs, il est nécessaire de renforcer l'éducation aux médias dès le plus jeune âge, dans les familles et à l'école. Il faut apprendre aux enfants à reconnaître les fausses vidéos, à vérifier les informations et à comprendre leurs responsabilités lorsqu'ils partagent du contenu. Plus important encore, l'éducation doit viser à favoriser la compassion afin que personne ne profite de la souffrance d'autrui.

À l'ère du développement rapide de l'IA, distinguer le vrai du faux ne repose plus uniquement sur les sens, mais exige vigilance, connaissance et responsabilité de la part de chaque utilisateur des réseaux sociaux. Par conséquent, chacun doit vérifier proactivement et faire preuve de prudence avant de partager et de diffuser les valeurs authentiques, afin que les réseaux sociaux deviennent un espace de connexion fiable et contribuent à la construction d'un environnement informationnel sain et civilisé.

Source : https://hanoimoi.vn/chan-song-cau-view-tu-video-gia-sau-tham-hoa-711381.html