Rețeaua de socializare X a fost nevoită să blocheze căutările pentru Taylor Swift după ce imaginile pornografice deepfake cu cântăreața au devenit virale. Atunci când caută Taylor Swift pe platforma X, utilizatorii vor vedea un mesaj de eroare și vor solicita reîncărcarea paginii. Joe Benarroch – directorul de operațiuni comerciale al X – a declarat că aceasta este o acțiune preliminară și se face cu prudență.

ofdhxx6v.png
Fotografiile nud cu Taylor Swift, create de inteligența artificială, au inundat X și Facebook înainte de a fi eliminate. (Foto: Reuters)

Imaginile pornografice cu Taylor Swift, generate de inteligența artificială, au început să circule pe X pe 24 ianuarie, determinându-i pe fanii cântăreței să posteze o serie de fotografii reale cu vedeta pentru a „îneca” deepfake-ul. De asemenea, au cerut companiei X să ia măsuri mai ferme pentru a șterge aceste fotografii și a raporta conturile care distribuie fotografii false. Sloganul „protejați-l pe Taylor Swift” a devenit, de asemenea, o tendință de top pe platformă.

O zi mai târziu, conturile raportate au fost suspendate sau restricționate, dar era încă ușor să găsești pornografie cu inteligență artificială pe X.

Într-o declarație emisă în weekend, X a precizat că interzice distribuirea de imagini grafice fără permisiunea subiectului și are o politică de toleranță zero pentru un astfel de conținut. Declarația nu a menționat numele lui Swift.

„Echipa noastră elimină în mod activ toate imaginile care au fost identificate și ia măsurile corespunzătoare împotriva conturilor care le-au postat. Vom monitoriza îndeaproape situația pentru a ne asigura că orice alte încălcări sunt abordate imediat și că conținutul este eliminat”, a declarat X.

Progresele în domeniul inteligenței artificiale generative au facilitat falsificarea imaginilor pornografice ale altor persoane. Odată cu X, după ce a ajuns sub controlul lui Elon Musk în 2022, multe reglementări privind cenzura au fost relaxate, în timp ce acesta a concediat mii de angajați pentru a-și stabiliza finanțele.

Conform NBC News, nu este clar de unde provin imaginile false cu Taylor Swift, dar acestea au fost filigranizate pentru a indica faptul că provin de pe un site web cunoscut pentru distribuirea de imagini pornografice false cu celebrități. Site-ul web are, de asemenea, o secțiune dedicată imaginilor false cu inteligență artificială. Fotografiile false cu Swift au fost vizualizate de peste 27 de milioane de ori și au primit peste 260.000 de aprecieri după 19 ore de la publicare.

În urma incidentului, CEO-ul Microsoft, Satya Nadella, a cerut implementarea mai multor bariere de siguranță pentru reglementarea inteligenței artificiale. Într-un interviu acordat NBC News, el a susținut că avem responsabilitatea de a monitoriza această tehnologie emergentă, astfel încât să se poată produce un conținut mai sigur.

Răspunzând la o întrebare despre deepfake-ul Swift, șeful Microsoft a spus: „Da, trebuie să acționăm. Cred că toți beneficiem de o lume online sigură. Nu cred că cineva își dorește o lume online complet nesigură atât pentru creatorii de conținut, cât și pentru consumatorii de conținut. Așadar, cred că trebuie să acționăm rapid în această privință.”

Potrivit 404 Media, un grup de chat Telegram a declarat că a folosit instrumentul Designer generat de inteligența artificială al Microsoft pentru a falsifica fotografia lui Taylor. Domnul Nadella nu a comentat direct informațiile 404 Media, dar într-o declarație trimisă site-ului de știri, Microsoft a anunțat că investighează raportul și va lua măsurile corespunzătoare.

Administrația președintelui american Joe Biden a numit răspândirea imaginilor false pornografice create de Taylor Swift „alarmantă” și a cerut companiilor de socializare să își examineze „rolul vital” în aplicarea reglementărilor pentru a preveni răspândirea informațiilor false și a imaginilor sensibile fără consimțământ.

În octombrie 2023, președintele Biden a semnat un ordin executiv privind inteligența artificială, axat pe reglementarea tehnologiilor emergente și a riscurilor aferente.

(Conform The Hill, WSJ)