Une école sud-coréenne victime d'une vidéo pornographique deepfake

Le 27 août, la police sud-coréenne a lancé une enquête sur des signalements de contenu pornographique créé grâce à la technologie deepfake dans des écoles à travers le pays, y compris des écoles élémentaires.

Les contenus pornographiques créés grâce à la technologie deepfake sont monnaie courante dans les écoles sud-coréennes. Photo : YONHAP

Auparavant, les noms d'environ 300 écoles à travers le pays avaient été publiés sur une salle de discussion Telegram pour signaler des cas de pornographie deepfake.

La liste est devenue virale au cours du week-end lorsque plusieurs comptes publics sur la plateforme de médias sociaux X ont publié la liste des écoles, selon la publication sur X. Selon la publication, les participants au chat Telegram ont partagé des photos de connaissances telles que des camarades de classe et des enseignants, qui peuvent être facilement obtenues via des comptes de médias sociaux publics, pour créer du contenu pornographique à l'aide de la technologie deepfake.

La liste virale compte plus de 570 000 retweets et 260 000 mentions « J'aime » au 26 août. Photo : X

Des enquêtes policières ont été ouvertes à Séoul, Incheon et dans le Jeolla du Sud. L'unité de cybercriminalité de la police provinciale du Jeonnam recherche deux suspects ayant créé et diffusé du contenu pornographique deepfake en synthétisant des photos de femmes publiées sur des réseaux sociaux comme Instagram. Les victimes ayant découvert que leurs images étaient utilisées ont directement signalé leur utilisation à la police.

Selon la police sud-coréenne, toute personne prise en flagrant délit de production ou de distribution de deepfakes pornographiques est passible d'une peine allant jusqu'à cinq ans de prison ou d'une amende pouvant atteindre 50 millions de wons (37 740 dollars), en vertu de la loi sur les cas spéciaux concernant la répression des crimes sexuels. Si la victime est mineure, la loi sur la protection des mineurs s'applique. La peine sera donc plus lourde, avec des peines de prison supérieures à cinq ans ou la réclusion criminelle à perpétuité.

Le ministère sud-coréen de l'Égalité des sexes et de la Famille a déclaré qu'il prévoyait d'aider les victimes à supprimer la pornographie deepfake grâce à des systèmes d'enquêteurs traquant le contenu vidéo illégal.

En février, des experts en intelligence artificielle et des dirigeants du secteur, dont l'expert technologique pionnier Yoshua Bengio, ont signé une lettre ouverte recommandant la réglementation des deepfakes, notamment la criminalisation complète de la pornographie deepfake et l'imposition de sanctions pénales à quiconque crée ou facilite la distribution de deepfakes nuisibles.

KHANH HUNG

Source : https://www.sggp.org.vn/school-in-han-quoc-is-infected-with-pornographic-deepfake-content-post755909.html