Platforma sociálních médií X zablokovala vyhledávání Taylor Swift poté, co se virálními staly deepfake sexuálně explicitní fotografie zpěvačky. Při vyhledávání Taylor Swift na platformě X se uživatelům zobrazí chybová zpráva a žádost o opětovné načtení stránky. Joe Benarroch, provozní ředitel X, uvedl, že se jedná o předběžné opatření a je zaváděno opatrně.
Pornografické obrázky Taylor Swift generované umělou inteligencí se na platformě X začaly 24. ledna šířit, což vedlo fanoušky k zveřejňování četných skutečných fotografií hvězdy, aby se vyhnuli deepfake snímkům. Požadovali také, aby X podnikla důraznější kroky k odstranění těchto obrázků a nahlášení účtů sdílejících falešné fotografie. Na platformě se také objevil slogan „chraňte Taylor Swift“.
O den později byly nahlášené účty pozastaveny nebo omezeny, ačkoli explicitní obrázky generované umělou inteligencí byly na X stále snadno k nalezení.
Ve svém prohlášení o víkendu společnost X potvrdila, že zakazuje sdílení obrázků vytvořených pomocí grafiky bez svolení subjektu a má politiku nulové tolerance vůči takovému obsahu. V prohlášení nebyla společnost Swift jmenovitě zmíněna.
„Náš tým aktivně odstraňuje všechny identifikované obrázky a podniká příslušné kroky proti účtům, které je zveřejnily. Budeme situaci pečlivě sledovat, abychom zajistili okamžité řešení dalších porušení a odstranění obsahu,“ uvedl X.
Pokroky v generování umělé inteligence usnadnily falšování pornografických obrázků jiných lidí. Po akvizici společnosti X v roce 2022 Elonem Muskem byla uvolněna řada cenzurních předpisů a Musk propustil tisíce zaměstnanců, aby stabilizoval finance.
Podle NBC News není jasné, odkud deepfake snímky Taylor Swift pocházejí, ale byly opatřeny vodoznakem, což naznačuje, že pocházejí z webové stránky známé distribucí falešných pornografických obrázků celebrit. Webová stránka má dokonce vyhrazenou sekci pro deepfaky s využitím umělé inteligence. Falešné snímky Swift byly zhlédnuty více než 27 milionůkrát a do 19 hodin od zveřejnění získaly přes 260 000 lajků.
Po incidentu generální ředitel společnosti Microsoft Satya Nadella vyzval k zavedení dalších předpisů pro řízení umělé inteligence. V rozhovoru pro NBC News argumentoval, že máme odpovědnost dohlížet na tuto nově vznikající technologii, aby mohlo vznikat bezpečnější obsah.
V reakci na Swiftovu otázku ohledně deepfaků šéf Microsoftu řekl: „Ano, musíme jednat. Myslím, že z bezpečného online světa těžíme všichni. Nemyslím si, že by někdo chtěl online svět, který by byl zcela nejistý jak pro tvůrce obsahu, tak pro spotřebitele. Myslím si tedy, že v této věci musíme jednat rychle.“
Podle serveru 404 Media chatovací skupina na Telegramu tvrdila, že k vytvoření falešných fotografií Taylor použila nástroj Designer od společnosti Microsoft s umělou inteligencí. Pan Nadella se k zprávě serveru 404 Media přímo nevyjádřil, ale v prohlášení zaslaném zpravodajskému webu Microsoft uvedl, že zprávu vyšetřuje a podnikne příslušné kroky.
Administrativa amerického prezidenta Joea Bidena označila šíření pornografického deepfake obsahu Taylor Swift za „alarmující“ a vyzvala společnosti sociálních médií, aby prozkoumaly svou „klíčovou roli“ při vymáhání předpisů, které by zabránily šíření dezinformací a citlivých obrázků bez jejich souhlasu.
V říjnu 2023 prezident Biden podepsal výkonný příkaz o umělé inteligenci zaměřený na řízení nově vznikajících technologií a jejich rizik.
(Podle The Hill, WSJ)
Zdroj
Komentář (0)