Portal społecznościowy X musiał zablokować wyszukiwanie Taylor Swift po tym, jak pornograficzne zdjęcia piosenkarki stały się viralem. Podczas wyszukiwania Taylor Swift na platformie X użytkownicy zobaczą komunikat o błędzie i prośbę o odświeżenie strony. Joe Benarroch – dyrektor ds. operacji biznesowych w X – powiedział, że jest to działanie wstępne i jest podejmowane z zachowaniem ostrożności.

ofdhxx6v.png
Nagie zdjęcia Taylor Swift stworzone przez sztuczną inteligencję zalały portale X i Facebook, po czym zostały usunięte. (Zdjęcie: Reuters)

24 stycznia na platformie X zaczęły krążyć pornograficzne zdjęcia Taylor Swift generowane przez sztuczną inteligencję, co skłoniło fanów piosenkarki do opublikowania serii prawdziwych zdjęć gwiazdy, aby „utopić” deepfake'i. Zaapelowali również do X o podjęcie stanowczych działań w celu usunięcia tych zdjęć i zgłaszania kont udostępniających fałszywe zdjęcia. Hasło „chroń Taylor Swift” również stało się popularnym trendem na platformie.

Dzień później zgłoszone konta zostały zawieszone lub ograniczone, ale nadal można było bez problemu znaleźć pornografię AI na platformie X.

W oświadczeniu wydanym w weekend, X zapowiedziało, że zabrania udostępniania drastycznych zdjęć bez zgody osoby, której dotyczą, i stosuje politykę zerowej tolerancji wobec takich treści. W oświadczeniu nie wymieniono nazwiska Swift.

„Nasz zespół aktywnie usuwa wszystkie zidentyfikowane zdjęcia i podejmuje odpowiednie działania wobec kont, które je opublikowały. Będziemy uważnie monitorować sytuację, aby zapewnić natychmiastowe reagowanie na wszelkie dalsze naruszenia i usunięcie treści” – powiedział X.

Postępy w dziedzinie generatywnej sztucznej inteligencji ułatwiły fałszowanie pornograficznych zdjęć innych osób. Wraz z X, po tym, jak w 2022 roku Elon Musk przejął kontrolę nad tą platformą, złagodzono wiele przepisów cenzury, a on sam zwolnił tysiące pracowników, aby ustabilizować swoje finanse.

Według NBC News, nie jest jasne, skąd pochodzą deepfake'i Taylor Swift, ale zostały one oznaczone znakiem wodnym, wskazującym na to, że pochodzą ze strony internetowej znanej z rozpowszechniania fałszywych zdjęć pornograficznych celebrytów. Strona posiada również sekcję poświęconą deepfake'om opartym na sztucznej inteligencji. Fałszywe zdjęcia Swift zostały wyświetlone ponad 27 milionów razy i polubione ponad 260 000 razy po 19 godzinach od publikacji.

Po tym incydencie, prezes Microsoftu, Satya Nadella, zaapelował o wprowadzenie większej liczby zabezpieczeń w celu regulacji sztucznej inteligencji. W wywiadzie dla NBC News argumentował, że naszym obowiązkiem jest monitorowanie tej nowej technologii, aby móc tworzyć bezpieczniejsze treści.

Odpowiadając na pytanie o deepfake Swift, szef Microsoftu powiedział: „Tak, musimy działać. Myślę, że wszyscy skorzystamy na bezpiecznym świecie online. Nie sądzę, żeby ktokolwiek chciał świata online, który jest całkowicie niebezpieczny zarówno dla twórców, jak i odbiorców treści. Dlatego uważam, że musimy działać szybko w tej sprawie”.

Według 404 Media, grupa czatowa Telegramu poinformowała, że ​​wykorzystała narzędzie Microsoft Designer, generowane przez sztuczną inteligencję, do sfałszowania zdjęcia Taylor. Pan Nadella nie odniósł się bezpośrednio do informacji 404 Media, ale w oświadczeniu przesłanym serwisowi informacyjnemu Microsoft poinformował, że bada sprawę i podejmie odpowiednie działania.

Administracja prezydenta USA Joe Bidena nazwała rozprzestrzenianie się pornograficznego deepfake'a Taylor Swift „alarmującym” i zaapelowała do firm mediów społecznościowych o przeanalizowanie ich „kluczowej roli” w egzekwowaniu przepisów mających na celu zapobieganie rozpowszechnianiu fałszywych informacji i wrażliwych obrazów bez ich zgody.

W październiku 2023 r. prezydent Biden podpisał rozporządzenie wykonawcze dotyczące sztucznej inteligencji, skupiające się na regulacji nowych technologii i związanych z nimi zagrożeń.

(Według The Hill, WSJ)