Une école sud-coréenne victime d'une vidéo pornographique truquée (deepfake)

La police sud-coréenne a ouvert une enquête le 27 août suite à des signalements de contenus pornographiques créés grâce à la technologie deepfake dans des écoles du pays, y compris des écoles primaires.

En Corée du Sud, les contenus pornographiques créés grâce à la technologie deepfake sont monnaie courante dans les écoles. Photo : YONHAP

Auparavant, les noms d'environ 300 écoles à travers le pays avaient été publiés sur un forum Telegram pour signaler les cas de pornographie truquée (deepfake).

La liste est devenue virale ce week-end après sa publication par plusieurs comptes publics sur la plateforme de médias sociaux X, selon un message publié sur X. D'après ce même message, des participants à une conversation Telegram ont partagé des photos de connaissances, comme des camarades de classe et des professeurs, facilement accessibles via des comptes publics sur les réseaux sociaux, afin de créer du contenu pornographique grâce à la technologie deepfake.

La liste virale comptabilise plus de 570 000 retweets et 260 000 mentions « J’aime » au 26 août. Photo : X

Des enquêtes policières ont été ouvertes à Séoul, Incheon et dans la province de Jeolla du Sud. L'unité de lutte contre la cybercriminalité de la police provinciale de Jeonnam recherche deux suspects ayant créé et diffusé des images pornographiques truquées (deepfakes) à partir de photos de femmes publiées sur les réseaux sociaux comme Instagram. Les victimes ayant découvert l'utilisation de leurs images ont porté plainte directement auprès de la police.

Selon la police sud-coréenne, la production ou la diffusion de vidéos pornographiques truquées (deepfakes) est passible d'une peine maximale de cinq ans de prison et d'une amende pouvant atteindre 50 millions de wons (37 740 dollars), conformément à la loi relative aux cas particuliers de répression des infractions sexuelles. Si la victime est mineure, la loi sur la protection de l'enfance s'applique, et les peines encourues sont alors plus lourdes, pouvant aller jusqu'à la prison à vie ou plus de cinq ans.

Le ministère sud-coréen de l'Égalité des genres et de la Famille a déclaré qu'il prévoyait d'aider les victimes à supprimer les contenus pornographiques truqués grâce à des systèmes permettant aux enquêteurs de suivre les contenus vidéo illégaux.

En février, des experts en IA et des dirigeants de l'industrie, dont le pionnier des technologies Yoshua Bengio, ont signé une lettre ouverte recommandant la réglementation des deepfakes, notamment la criminalisation totale de la pornographie deepfake et l'imposition de sanctions pénales à toute personne qui crée ou facilite la distribution de deepfakes nuisibles.

KHANH HUNG

Source : https://www.sggp.org.vn/school-in-han-quoc-is-infected-with-pornographic-content-deepfake-tan-cong-post755909.html