Deepfake-porno, et problem i AI-kappløpet

Deepfakes er videoer og bilder som er laget eller digitalt endret ved hjelp av kunstig intelligens (KI) eller maskinlæring (ML). Pornografisk innhold laget med denne teknologien begynte å sirkulere på internett for noen år siden da en Reddit-bruker delte falske pornoklipp med kjendisansiktene.

Foto: GI

Hvem som helst kan bli et offer.

Siden den gang har deepfake-skapere kontinuerlig lagt ut lignende videoer og bilder rettet mot nettbaserte influencere, journalister og andre med offentlige profiler. Tusenvis av slike videoer finnes på en rekke nettsteder.

Med stadig mer tilgjengelige AI-teknologier kan brukere gjøre hvem de vil om til «pornografiske filmstjerner» uten deres samtykke, eller, enda farligere, bruke denne teknologien til å ærekrenke eller utpresse andre.

Eksperter sier at problemet kan forverres med utviklingen av generaliserte AI-verktøy trent på milliarder av bilder fra internett og generering av nytt innhold ved hjelp av eksisterende data.

«Realiteten er at teknologien vil fortsette å spre seg, vil fortsette å utvikle seg og vil fortsette å bli enklere og mer tilgjengelig», sa Adam Dodge, grunnlegger av EndTAB, en gruppe som tilbyr opplæring i teknologimisbruk. «Og så lenge det fortsetter, vil folk ... fortsette å misbruke teknologien til å skade andre, først og fremst gjennom seksuell vold på nettet, deepfake-pornografi og falsk nakenhet.»

Noelle Martin fra Perth i Australia opplevde dette på nært hold. Den 28 år gamle kvinnen oppdaget sine egne deepfake-pornografiske bilder for 10 år siden da hun, av nysgjerrighet, brukte Google til å søke etter bilder av seg selv. Den dag i dag sier Martin at hun ikke vet hvem som lagde disse falske pornografiske bildene eller videoene. Hun mistenker at noen brukte bilder fra hennes sosiale medier for å lage de pornografiske videoene.

Til tross for Martins forsøk på å kontakte nettstedene for å få videoene fjernet, var hennes forsøk forgjeves. Noen svarte ikke. Andre fjernet dem, men lastet dem raskt opp på nytt. «Du kan ikke vinne», sa Martin. «Det vil forbli på internett for alltid og kan ødelegge livet ditt.»

Teknologiselskapenes forsøk på å rette opp situasjonen.

Noen AI-modeller har indikert at de har begrenset tilgang til pornografiske bilder.

OpenAI sier at de har fjernet pornografisk innhold fra dataene som brukes til å trene opp DALL-E-bildegenereringsverktøyet, noe som vil begrense potensialet for misbruk. Selskapet filtrerer også forespørsler og sier at de blokkerer brukere fra å lage AI-bilder av kjendiser og fremtredende politikere . Midjourney, en annen modell, blokkerer også bruken av visse nøkkelord og oppfordrer brukere til å flagge problematiske bilder for moderatorer.

I mellomtiden har Stability AI også gitt ut en oppdatering for å forhindre at brukere lager sensitive bilder. Disse endringene kommer etter rapporter om at noen brukere lagde kjendisinspirerte nakenbilder ved hjelp av teknologien.

Talsperson for Stability AI, Motez Bishara, sa at filteret bruker en kombinasjon av nøkkelord og andre teknikker, som bildegjenkjenning, for å oppdage nakenhet. Men brukerne kan manipulere programvaren og lage hva de vil, fordi selskapet har gitt ut åpen kildekode for applikasjonen.

Noen sosiale medieselskaper har også strammet inn reglene sine for å bedre beskytte plattformene sine mot skadelig materiale.

Forrige måned sa TikTok at alt deepfake- eller manipulert innhold må merkes for å indikere at det er falskt eller har blitt endret på en eller annen måte.

Spillplattformen Twitch oppdaterte nylig retningslinjene sine for deepfake-bilder etter at en populær streamer ved navn Atrioc ble oppdaget i å bruke en deepfake-pornonettside i nettleseren sin under en direktestrømming i slutten av januar.

Apple og Google annonserte nylig at de fjernet en app fra appbutikkene sine for å kjøre seksuelt antydende deepfake-videoer for å markedsføre produkter.

Fra vestlige sangere til K-pop-idoler.

Forskning på deepfake-porno er sjelden, men en rapport fra 2019 fra AI-selskapet DeepTrace Labs fant at den nesten utelukkende var våpenbrukt mot kvinner, med vestlige skuespillerinner som de mest målrettede, etterfulgt av K-pop-sangere.

Metas talsperson Dani Lever sa i en uttalelse at selskapets policy begrenser både AI- og ikke-AI-generert vokseninnhold, og begrenser også annonsering for siden til deepfake-skapingsappen på plattformen.

I februar begynte Meta, sammen med nettsteder for voksne som Only**** og Porn***, å delta i et nettbasert verktøy kalt Take It Down, som lar tenåringer rapportere sine egne pornografiske bilder og videoer fra internett. Nettstedet støtter behandling av både hemmelig filmede videoer og AI-genererte videoer.

Hoang Ton (ifølge AP)

Kilde: https://www.congluan.vn/deepfake-khieu-dam-van-nan-trong-cuoc-dua-ai-post244021.html