Sociální síť X musela zablokovat vyhledávání Taylor Swift poté, co se virálními staly deepfake pornografické obrázky zpěvačky. Při vyhledávání Taylor Swift na platformě X se uživatelům zobrazí chybová zpráva a žádost o opětovné načtení stránky. Joe Benarroch – ředitel obchodních operací společnosti X – uvedl, že se jedná o předběžný krok a že se provádí opatrně.

z dhxx6v.png
Nahé fotky Taylor Swift vytvořené umělou inteligencí zaplavily X a Facebook, než byly odstraněny. (Foto: Reuters)

Pornografické obrázky Taylor Swift generované umělou inteligencí začaly kolovat na platformě X 24. ledna, což přimělo fanoušky zpěvačky zveřejnit sérii skutečných fotografií hvězdy, aby „utopili“ deepfake. Zároveň požádali X, aby přijal důraznější opatření k smazání těchto fotografií a nahlášení účtů sdílejících falešné fotografie. Heslo „chraňte Taylor Swift“ se také stalo velkým trendem na platformě.

O den později byly nahlášené účty pozastaveny nebo omezeny, ale na X bylo stále snadné najít porno s umělou inteligencí.

Ve svém prohlášení o víkendu společnost X uvedla, že zakazuje sdílení grafických obrázků bez souhlasu subjektu a má vůči takovému obsahu politiku nulové tolerance. V prohlášení nebyla společnost Swift jmenovitě zmíněna.

„Náš tým aktivně odstraňuje všechny identifikované obrázky a podniká příslušné kroky proti účtům, které je zveřejnily. Budeme situaci pečlivě sledovat, abychom zajistili okamžité řešení dalších porušení a odstranění obsahu,“ uvedl X.

Pokroky v generativní umělé inteligenci usnadnily falšování pornografických obrázků jiných lidí. S X, poté, co se v roce 2022 dostal pod kontrolu Elon Musk, se mnoho cenzurních předpisů uvolnilo a Musk propustil tisíce zaměstnanců, aby stabilizoval své finance.

Podle NBC News není jasné, odkud deepfake fotografie Taylor Swift pocházejí, ale byly opatřeny vodoznakem, který naznačuje, že pocházejí z webové stránky známé distribucí falešných pornografických obrázků celebrit. Webová stránka má také sekci věnovanou deepfakes s využitím umělé inteligence. Falešné fotografie Swift byly po 19 hodinách od zveřejnění zhlédnuty více než 27 milionůkrát a lajkovány více než 260 000krát.

Po incidentu generální ředitel společnosti Microsoft Satya Nadella vyzval k zavedení dalších ochranných opatření pro regulaci umělé inteligence. V rozhovoru pro NBC News argumentoval, že máme odpovědnost monitorovat tuto nově vznikající technologii, aby mohlo vznikat bezpečnější obsah.

V reakci na otázku ohledně Swiftova deepfaku šéf Microsoftu řekl: „Ano, musíme jednat. Myslím, že z bezpečného online světa těžíme všichni. Nemyslím si, že by někdo chtěl online svět, který by byl zcela nebezpečný jak pro tvůrce obsahu, tak pro jeho spotřebitele. Myslím si tedy, že v této věci musíme jednat rychle.“

Podle serveru 404 Media chatovací skupina na Telegramu uvedla, že k padělání Taylorovy fotografie použila nástroj Designer od společnosti Microsoft, který generuje umělá inteligence. Pan Nadella se k informacím serveru 404 Media přímo nevyjádřil, ale v prohlášení zaslaném zpravodajskému webu Microsoft uvedl, že zprávu vyšetřuje a podnikne příslušné kroky.

Administrativa amerického prezidenta Joea Bidena označila šíření pornografického deepfakeu Taylor Swift za „alarmující“ a vyzvala společnosti sociálních médií, aby prozkoumaly svou „zásadní roli“ při vymáhání předpisů, které by zabránily šíření falešných informací a citlivých obrázků bez jejich souhlasu.

V říjnu 2023 prezident Biden podepsal výkonný příkaz o umělé inteligenci zaměřený na regulaci nově vznikajících technologií a jejich rizik.

(Podle The Hill, WSJ)