Zuid-Koreaanse school getroffen door deepfake-porno

De Zuid-Koreaanse politie is op 27 augustus een onderzoek gestart naar meldingen van pornografische content die is gecreëerd met behulp van deepfake-technologie op scholen in het hele land, waaronder basisscholen.

Pornografische content gecreëerd met behulp van deepfake-technologie is wijdverbreid op scholen in Zuid-Korea. Foto: YONHAP

Eerder werden in een chatroom van Telegram de namen van ongeveer 300 scholen in het land gepost om gevallen van deepfake-pornografie te melden.

De lijst ging afgelopen weekend viraal toen meerdere openbare accounts op socialemediaplatform X de lijst met scholen publiceerden, aldus de X-post. Volgens de post deelden deelnemers aan de Telegram-chat foto's van kennissen, zoals klasgenoten en leraren, die gemakkelijk te verkrijgen zijn via openbare socialemedia-accounts, om pornografische content te creëren met behulp van deepfake-technologie.

De virale lijst had tot 26 augustus meer dan 570.000 retweets en 260.000 likes. Foto: X

Politieonderzoeken zijn gestart in Seoul, Incheon en Zuid-Jeolla. De cybercrime-eenheid van de provinciale politie van Jeonnam is op zoek naar twee verdachten die deepfake-porno hebben gemaakt en verspreid door foto's van vrouwen te synthetiseren die op sociale media zoals Instagram werden geplaatst. Slachtoffers die ontdekten dat hun afbeeldingen werden gebruikt, hebben zich direct bij de politie gemeld.

Volgens de Zuid-Koreaanse politie kan een dader die betrapt wordt op het produceren of verspreiden van deepfake-porno, worden veroordeeld tot maximaal vijf jaar gevangenisstraf of een boete van maximaal 50 miljoen won (37.740 dollar), conform de Wet op Bijzondere Zaken betreffende de Bestraffing van Seksuele Misdrijven. Als het slachtoffer van het misdrijf minderjarig is, is de Wet op de Bescherming van Jongeren van toepassing. De straf zal dus hoger zijn, met gevangenisstraffen van meer dan vijf jaar of levenslang.

Het Zuid-Koreaanse ministerie van Gendergelijkheid en Gezin heeft aangegeven dat het slachtoffers wil helpen deepfake-pornografie te verwijderen met behulp van systemen waarmee rechercheurs illegale videocontent kunnen opsporen.

In februari ondertekenden AI-experts en leidinggevenden uit de industrie, waaronder de baanbrekende technoloog Yoshua Bengio, een open brief waarin werd aanbevolen om deepfakes te reguleren. Dit houdt in dat deepfake-pornografie volledig strafbaar moet worden gesteld en dat iedereen die schadelijke deepfakes maakt of de verspreiding ervan faciliteert, strafrechtelijk wordt vervolgd.

KHANH HUNG

Bron: https://www.sggp.org.vn/school-in-han-quoc-is-infected-with-pornographic-content-deepfake-tan-cong-post755909.html