Az X közösségi oldal kénytelen volt blokkolni a Taylor Swiftre való keresést, miután az énekesnőről készült deepfake pornográf képek vírusként terjedtek. Amikor a felhasználók Taylor Swiftre keresnek az X platformon, egy hibaüzenet jelenik meg, és a rendszer kéri az oldal újratöltését. Joe Benarroch – az X üzleti operációkért felelős igazgatója – elmondta, hogy ez egy előzetes intézkedés, és óvatosan hajtják végre a rendszert.

ofdhxx6v.png
Taylor Swift mesterséges intelligencia által készített meztelen fotói elárasztották az X-et és a Facebookot, mielőtt eltávolították őket. (Fotó: Reuters)

Január 24-én kezdtek keringeni Taylor Swift mesterséges intelligencia által generált pornográf képei az X-en, ami arra késztette az énekesnő rajongóit, hogy valódi fotókat tegyenek közzé a sztárról, hogy „megfojtsák” a deepfake-et. Arra is kérték az X-et, hogy tegyen határozottabb lépéseket a fotók törlésére és a hamis fotókat megosztó fiókok bejelentésére. A „védjük meg Taylor Swiftet” szlogen is népszerű trenddé vált a platformon.

Egy nappal később a bejelentett fiókokat felfüggesztették vagy korlátozták, de az X-en továbbra is könnyű volt mesterséges intelligencia által generált pornót találni.

Egy hétvégi közleményben az X kijelentette, hogy tiltja a grafikus képek megosztását az alany engedélye nélkül, és zéró tolerancia politikát folytat az ilyen tartalmakkal szemben. A közleményben Swiftet név szerint nem említették.

„Csapatunk aktívan eltávolítja az összes azonosított képet, és megteszi a megfelelő lépéseket az azokat közzétevő fiókokkal szemben. Szorosan figyelemmel kísérjük a helyzetet, hogy biztosítsuk a további szabálysértések azonnali kezelését és a tartalom eltávolítását” – mondta X.

A generatív mesterséges intelligencia fejlődése megkönnyítette más emberek pornográf képeinek hamisítását. Az X esetében, miután 2022-ben Elon Musk ellenőrzése alá került, számos cenzúraszabályozás enyhült, miközben több ezer alkalmazottat bocsátott el pénzügyeinek stabilizálása érdekében.

Az NBC News szerint nem világos, honnan származnak Taylor Swift deepfake képei, de vízjellel látták el őket, jelezve, hogy egy olyan weboldalról származnak, amely arról ismert, hogy hírességek hamis pornográf képeit terjeszti. A weboldalon van egy külön részleg, amely a mesterséges intelligencia által készített deepfake-eknek van szentelve. A Swift hamis fotóit több mint 27 milliószor tekintették meg, és több mint 260 000 lájkot kaptak 19 óra elteltével.

Az incidenst követően Satya Nadella, a Microsoft vezérigazgatója további védőkorlátok bevezetését szorgalmazta a mesterséges intelligencia szabályozása érdekében. Az NBC Newsnak adott interjújában azzal érvelt, hogy felelősségünk figyelemmel kísérni ezt az új technológiát, hogy biztonságosabb tartalmat lehessen előállítani.

A Swift deepfake-jével kapcsolatos kérdésre válaszolva a Microsoft vezetője azt mondta: „Igen, cselekednünk kell. Azt hiszem, mindannyian profitálunk egy biztonságos online világból . Nem hiszem, hogy bárki is olyan online világot szeretne, amely teljesen veszélyes mind a tartalomkészítők, mind a tartalomfogyasztók számára. Ezért azt hiszem, gyorsan kell cselekednünk ebben a kérdésben.”

A 404 Media szerint egy Telegram-csevegőcsoport azt állította, hogy a Microsoft mesterséges intelligencia által generált Designer eszközét használták Taylor fotójának hamisításához. Nadella úr nem kommentálta közvetlenül a 404 Media információit, de a hírportálnak küldött nyilatkozatában a Microsoft közölte, hogy vizsgálja a jelentést, és megteszi a megfelelő lépéseket.

Joe Biden amerikai elnök kormánya „aggasztónak” nevezte Taylor Swift pornográf deepfake-jének terjedését, és felszólította a közösségi média vállalatokat, hogy vizsgálják meg „létfontosságú szerepüket” a hamis információk és az érzékeny képek beleegyezés nélküli terjesztésének megakadályozására vonatkozó szabályozások betartatásában.

2023 októberében Biden elnök aláírt egy mesterséges intelligenciáról szóló végrehajtási rendeletet, amely a feltörekvő technológiák és azok kockázatainak szabályozására összpontosít.

(A The Hill és a WSJ szerint)