Une école sud-coréenne victime d'une vidéo pornographique deepfake

La police sud-coréenne a lancé le 27 août une enquête sur des informations faisant état de contenus pornographiques créés grâce à la technologie deepfake dans des écoles de tout le pays, y compris des écoles élémentaires.

Les contenus pornographiques créés grâce à la technologie deepfake sont monnaie courante dans les écoles sud-coréennes. Photo : YONHAP

Auparavant, les noms d'environ 300 écoles à travers le pays avaient été publiés sur une salle de discussion Telegram pour signaler des cas de pornographie deepfake.

La liste est devenue virale au cours du week-end lorsque plusieurs comptes publics sur la plateforme de médias sociaux X ont publié la liste des écoles, selon la publication de X. Selon la publication, les participants au chat Telegram ont partagé des photos de connaissances telles que des camarades de classe et des enseignants, qui peuvent être facilement obtenues via des comptes de médias sociaux publics, pour créer du contenu pornographique à l'aide de la technologie deepfake.

La liste virale compte plus de 570 000 retweets et 260 000 mentions « J'aime » au 26 août. Photo : X

Des enquêtes policières ont été ouvertes à Séoul, Incheon et dans le Jeolla du Sud. L'unité de cybercriminalité de la police provinciale du Jeonnam recherche deux suspects ayant créé et diffusé des images pornographiques truquées en synthétisant des photos de femmes publiées sur des réseaux sociaux comme Instagram. Les victimes ayant découvert que leurs images étaient utilisées ont directement signalé leur utilisation à la police.

Selon la police sud-coréenne, toute personne prise en flagrant délit de production ou de distribution de contenu pornographique deepfake est passible d'une peine allant jusqu'à cinq ans de prison ou d'une amende pouvant atteindre 50 millions de wons (37 740 dollars), conformément à la loi sur les cas spéciaux concernant la répression des crimes sexuels. Si la victime est mineure, la loi sur la protection des mineurs s'applique. La peine sera donc plus lourde, avec des peines de prison supérieures à cinq ans ou la réclusion criminelle à perpétuité.

Le ministère sud-coréen de l'Égalité des sexes et de la Famille a déclaré qu'il prévoyait d'aider les victimes à supprimer la pornographie deepfake grâce à des systèmes permettant aux enquêteurs de surveiller le contenu vidéo illégal.

En février, des experts en IA et des dirigeants du secteur, dont le pionnier de la technologie Yoshua Bengio, ont signé une lettre ouverte recommandant la réglementation des deepfakes, notamment la criminalisation complète de la pornographie deepfakes et l'imposition de sanctions pénales à quiconque crée ou facilite la distribution de deepfakes nuisibles.

KHANH HUNG

Source : https://www.sggp.org.vn/school-in-han-quoc-is-infected-with-pornographic-content-deepfake-tan-cong-post755909.html