Det sociala nätverket X har varit tvunget att blockera sökningar efter Taylor Swift efter att djupförfalskade pornografiska bilder av sångerskan blivit virala. När användare söker efter Taylor Swift på X-plattformen kommer de att se ett felmeddelande och en uppmaning att ladda sidan. Joe Benarroch – chef för affärsverksamhet på X – sa att detta är en preliminär åtgärd och att den utförs med försiktighet.

ofdhxx6v.png
Nakenbilder på Taylor Swift skapade av AI översvämmade X och Facebook innan de togs bort. (Foto: Reuters)

AI-genererade pornografiska bilder av Taylor Swift började cirkulera på X den 24 januari, vilket fick sångerskans fans att publicera en serie riktiga bilder av stjärnan för att "drunka" deepfake-fotot. De bad också X att vidta kraftfullare åtgärder för att radera dessa bilder och anmäla konton som delar falska bilder. Sloganen "skydda Taylor Swift" blev också en topptrend på plattformen.

En dag senare stängdes eller begränsades de rapporterade kontona, men det var fortfarande lätt att hitta AI-porr på X.

I ett uttalande under helgen sa X att de förbjuder delning av grafiska bilder utan personens tillstånd och har en nolltoleranspolicy för sådant innehåll. Uttalandet nämnde inte Swift vid namn.

”Vårt team tar aktivt bort alla bilder som har identifierats och vidtar lämpliga åtgärder mot de konton som publicerade dem. Vi kommer att noggrant övervaka situationen för att säkerställa att eventuella ytterligare överträdelser åtgärdas omedelbart och att innehållet tas bort”, sa X.

Framsteg inom generativ AI har gjort det enklare att förfalska pornografiska bilder av andra människor. Med X, efter att det hamnat under Elon Musks kontroll 2022, har många censurregler lättats, samtidigt som han har sagt upp tusentals anställda för att stabilisera sin ekonomi.

Enligt NBC News är det oklart var de falska bilderna på Taylor Swift kommer ifrån, men de var vattenmärkta för att indikera att de kom från en webbplats känd för att distribuera falska pornografiska bilder på kändisar. Webbplatsen har också en sektion dedikerad till AI-deepfakes. De falska bilderna på Swift visades mer än 27 miljoner gånger och gillades mer än 260 000 gånger efter 19 timmar efter att de publicerats.

Efter händelsen uppmanade Microsofts VD Satya Nadella till att fler skyddsräcken införs för att reglera AI. I en intervju med NBC News menade han att vi har ett ansvar att övervaka denna framväxande teknik så att mer säkert innehåll kan produceras.

På en fråga om Swifts deepfakes svarade Microsoftchefen: ”Ja, vi måste agera. Jag tror att vi alla gynnas av en säker onlinevärld . Jag tror inte att någon vill ha en onlinevärld som är helt osäker för både innehållsskapare och innehållskonsumenter. Så jag tror att vi måste agera snabbt i den här frågan.”

Enligt 404 Media uppgav en chattgrupp på Telegram att de använde Microsofts AI-genererade Designer-verktyg för att förfalska Taylors foto. Nadella kommenterade inte direkt 404 Medias information, men i ett uttalande som skickades till nyhetssajten meddelade Microsoft att de undersökte rapporten och skulle vidta lämpliga åtgärder.

Den amerikanske presidenten Joe Bidens administration kallade spridningen av Taylor Swifts pornografiska deepfake-bilder "alarmerande" och uppmanade sociala medieföretag att granska sin "viktiga roll" i att upprätthålla regler för att förhindra spridning av falsk information och känsliga bilder utan samtycke.

I oktober 2023 undertecknade president Biden en exekutivorder om AI med fokus på att reglera ny teknik och dess risker.

(Enligt The Hill, WSJ)