Une vidéo d'IA simule une inondation dans un palais, suscitant des inquiétudes quant aux deepfakes en Corée du Sud

La vidéo, publiée par la chaîne YouTube « Golpadak », s'ouvre sur un homme en imperméable jaune debout devant le palais de Gyeongbokgung, qui déclare : « Il pleut tellement fort… Gyeongbokgung est complètement inondé. » S'ensuivent des scènes où l'on voit des gens puiser de l'eau avec des seaux et… un phoque glisser sur le terrain du palais. Bien que les détails soient quelque peu absurdes, beaucoup croient encore à la véracité de la vidéo , car elle coïncide avec des précipitations record à Séoul.

Scène d'inondation au palais de Gyeongbokgung créée par l'IA. (Photo extraite d'une vidéo, source YouTube)

Il a été confirmé que la vidéo était un produit de Veo 3, le dernier outil avancé de création vidéo basé sur l'IA de Google. Il permet des images saisissantes et des dialogues réalistes. De nombreuses personnes ont exprimé leur indignation face à cette vidéo, estimant que son créateur devrait être sanctionné pour avoir délibérément diffusé de fausses informations.

Des dizaines de fausses vidéos similaires d’inondations sont également apparues sur YouTube, suscitant de vives réactions de la part des médias et des experts, qui avertissent que le public est trompé par le contenu généré par l’IA – même lorsque les détails sont absurdes.

Une fausse vidéo simulant une coulée de lave dans le centre de Séoul a également semé la confusion parmi les spectateurs. Le créateur de la vidéo, le YouTubeur « Ddalgak », a déclaré que son intention était de satiriser la facilité avec laquelle les internautes abordent le contenu en ligne. Il a également admis avoir utilisé Veo 3 pour créer la vidéo, inspirée par une arnaque impliquant le deepfake d'Elon Musk.

L'IA est omniprésente dans la vie coréenne. (Source : Shutterstock)

En réponse à la vague généralisée de deepfakes, la Corée du Sud a promulgué la « Loi fondamentale sur l'IA », qui entrera en vigueur en janvier 2026. Cette loi exige que toutes les vidéos IA soient filigranées afin que les spectateurs puissent les identifier facilement. Cependant, les experts craignent que les filigranes puissent être facilement supprimés ou modifiés, ce qui rend cette mesure moins dissuasive.

M. Choi Byung-ho, expert à l'Institut de recherche en IA de l'Université de Corée, a commenté : « Le développement de technologies par les entreprises d'IA pour aider à identifier les faux contenus réduira les coûts sociaux et sera plus efficace que les mesures administratives. »

Les deepfakes deviennent un outil de violation au-delà du divertissement : de la création de contenus offensants et non consensuels à la fraude financière, en passant par la manipulation politique . Lors des élections législatives de l'année dernière, l'agence électorale nationale a détecté et traité plus de 120 fausses images et vidéos générées par l'IA. Cela a conduit à une obligation claire de divulgation publique lors de l'utilisation de l'IA dans les contenus électoraux.

Minh Hoan

Source : https://vtcnews.vn/video-ai-gia-canh-lu-lut-tai-cung-dien-gay-lo-ngai-ve-deepfake-o-han-quoc-ar956031.html