Sørkoreansk skole rammet av deepfake-porno

Sørkoreansk politi startet 27. august en etterforskning av rapporter om pornografisk innhold laget ved hjelp av deepfake-teknologi på skoler over hele landet, inkludert barneskoler.

Pornografisk innhold laget med deepfake-teknologi florerer på skoler i Sør-Korea. Foto: YONHAP

Tidligere ble navnene på rundt 300 skoler over hele landet lagt ut på et Telegram-chatterom for å rapportere tilfeller av deepfake-pornografi.

Listen gikk viralt i helgen da flere offentlige kontoer på den sosiale medieplattformen X publiserte listen over skoler, ifølge innlegget fra X. Ifølge innlegget delte deltakerne i Telegram-chatten bilder av bekjente som klassekamerater og lærere, som enkelt kan fås via offentlige kontoer på sosiale medier, for å lage pornografisk innhold ved hjelp av deepfake-teknologi.

Virallisten har mer enn 570 000 retweets og 260 000 likerklikk per 26. august. Foto: X

Politietterforskning har startet i Seoul, Incheon og Sør-Jeolla. Enheten for nettkriminalitet i Jeonnam provinsielle politimyndighet leter etter to mistenkte som har laget og distribuert deepfake-porno ved å syntetisere bilder av kvinner lagt ut på sosiale medier som Instagram. Ofre som oppdaget at bildene deres ble brukt, rapporterte det direkte til politiet.

Ifølge sørkoreansk politi kan gjerningsmannen, dersom vedkommende blir tatt for å produsere eller distribuere deepfake-porno, dømmes til opptil fem års fengsel eller bøter på opptil 50 millioner won (37 740 dollar), i henhold til loven om spesielle tilfeller angående straff for seksualforbrytelser. Hvis offeret for forbrytelsen er mindreårig, gjelder loven i henhold til ungdomsbeskyttelsesloven. Straffen vil derfor være høyere, med fengselsstraffer på mer enn fem år eller livsvarig fengsel.

Sør-Koreas departement for likestilling og familie sa at de planlegger å hjelpe ofre med å fjerne deepfake-pornografi gjennom systemer som etterforskere kan spore ulovlig videoinnhold .

I februar signerte AI-eksperter og bransjeledere, inkludert den banebrytende teknologen Yoshua Bengio, et åpent brev der de anbefalte regulering av deepfakes, inkludert fullstendig kriminalisering av deepfake-pornografi og ileggelse av strafferettslige sanksjoner for alle som lager eller tilrettelegger for distribusjon av skadelige deepfakes.

KHANH HUNG

Kilde: https://www.sggp.org.vn/school-in-han-quoc-is-infected-with-pornographic-content-deepfake-tan-cong-post755909.html