Deepfake-porr, ett problem i AI-kapplöpningen

[annons_1]

Deepfakes är videor och bilder som skapas eller modifieras digitalt med hjälp av artificiell intelligens (AI) eller maskininlärning (ML). Pornografi skapad med hjälp av tekniken började cirkulera på internet för några år sedan när en Reddit-användare delade falska porrklipp med kändisars ansikten.

Deepfake är fortfarande svårt i tävlingsbild 1 — Foto: GI

Vem som helst kan bli ett offer.

Sedan dess har deepfake-skapare fortsatt att publicera liknande videor och bilder riktade mot onlineinfluencers, journalister och andra med offentliga profiler. Tusentals sådana videor finns på ett flertal webbplatser.

I takt med att AI-teknik blir alltmer tillgänglig gör det möjligt för användare att förvandla vem de vill till "porrstjärnor" utan deras samtycke, eller, ännu farligare, använda tekniken för att förtala eller utpressa andra.

Experter säger att problemet kan förvärras med utvecklingen av generativa AI-verktyg som tränas på miljarder bilder från internet och genererar nytt innehåll med hjälp av befintlig data.

”Verkligheten är att tekniken kommer att fortsätta att spridas, den kommer att fortsätta att utvecklas och den kommer att fortsätta att bli mer lättillgänglig och lättillgänglig”, säger Adam Dodge, grundare av EndTAB, en grupp som erbjuder utbildning om teknikmissbruk. ”Och så länge det fortsätter kommer människor utan tvekan ... att fortsätta missbruka den tekniken för att skada andra, främst genom sexuellt våld online, djupförfalskningspornografi och falska nakenbilder.”

Noelle Martin från Perth, Australien, har upplevt den verkligheten. Den 28-åriga kvinnan upptäckte deepfake-porr av sig själv för 10 år sedan när hon, av nyfikenhet, googlade sin egen bild en dag. Än idag säger Martin att hon inte har någon aning om vem som skapade de falska porrbilderna eller videorna. Hon misstänker att någon använt hennes bilder från sociala medier för att skapa porrvideor.

Martin försökte kontakta sajterna för att få bort videorna, men hennes ansträngningar var förgäves. Vissa svarade inte. Andra tog bort dem men publicerade dem snabbt igen. ”Du kan inte vinna”, sa Martin. ”Det kommer att finnas på internet för alltid och det kan förstöra ditt liv.”

Teknikföretagens ansträngningar att lösa problemet

Vissa AI-modeller säger att de har begränsad åtkomst till pornografiska bilder.

OpenAI sa att de tog bort pornografiskt innehåll från de data som används för att träna sin DALL-E-bildgenerator, vilket borde begränsa sannolikheten för att den missbrukas. Företaget filtrerar också förfrågningar och säger att de blockerar användare från att skapa AI-bilder av kändisar och framstående politiker . En annan modell, Midjourney, blockerar också användningen av vissa nyckelord och uppmuntrar användare att flagga problematiska bilder till moderatorer.

Samtidigt har Stability AI också lanserat en uppdatering som hindrar användare från att skapa explicita bilder. Dessa ändringar kommer efter rapporter om att vissa användare använde tekniken för att skapa kändisinspirerade nakenbilder.

Motez Bishara, talesperson för Stability AI, sa att filtret använder en kombination av nyckelord och andra tekniker som bildigenkänning för att upptäcka nakenhet. Men användare kan justera programvaran och skapa vad de vill, eftersom företaget har släppt appens öppna källkod.

Vissa sociala medieföretag har också skärpt reglerna för att bättre skydda sina plattformar från skadligt material.

Förra månaden sa TikTok att allt deepfake- eller manipulerat innehåll måste märkas för att indikera att det är falskt eller ändrat på något sätt.

Spelplattformen Twitch uppdaterade nyligen också sina policyer för djupförfalskade bilder efter att en populär streamer vid namn Atrioc ertappades med att öppna en djupförfalskade porrsajt i sin webbläsare under en livesändning i slutet av januari.

Apple och Google meddelade att de nyligen tog bort en app från sina appbutiker för att den visade sexuellt suggestiva deepfake-videor för att marknadsföra sina produkter.

Från västerländsk sångerska till K-popidol.

Forskning om djupförfalskningsporr är sällsynt, men en rapport från 2019 av AI-företaget DeepTrace Labs fann att den nästan uteslutande var vapenbaserad mot kvinnor, med västerländska skådespelerskor som mest måltavlor, följt av K-popsångerskor.

Metas talesperson Dani Lever sa i ett uttalande att företagets policy begränsar både AI- och icke-AI-genererat vuxeninnehåll, och att den begränsar den deepfake-genererande appens sida från att annonsera på sin plattform.

I februari började Meta, liksom vuxensajter som Only**** och Porn***, delta i ett onlineverktyg som heter Take It Down, vilket gör det möjligt för tonåringar att rapportera sexuellt explicita bilder och videor av sig själva från internet. Sajten stöder både hemligt filmade videor och AI-genererade videor.

Hoang Ton (enligt AP)

[annons_2]
Källa