Соціальній мережі X довелося заблокувати пошук за запитом «Тейлор Свіфт» після того, як порнографічні зображення співачки стали вірусними у вигляді діпфейків . Під час пошуку за запитом «Тейлор Свіфт» на платформі X користувачі бачать повідомлення про помилку та запит на перезавантаження сторінки. Джо Бенаррок, директор з бізнес-операцій X, сказав, що це попередня дія, яка виконується обережно.

з dhxx6v.png
Фотографії оголеної Тейлор Свіфт, створені штучним інтелектом, заполонили X та Facebook, перш ніж були видалені. (Фото: Reuters)

Порнографічні зображення Тейлор Свіфт, згенеровані штучним інтелектом, почали поширюватися на X 24 січня, що спонукало шанувальників співачки опублікувати серію справжніх фотографій зірки, щоб «заглушити» діпфейк. Вони також попросили X вжити рішучіших заходів для видалення цих фотографій та повідомлення про облікові записи, які поширюють фейкові фотографії. Гасло «захистіть Тейлор Свіфт» також стало одним з головних трендів на платформі.

На наступний день зареєстровані облікові записи були заблоковані або обмежені, але порнографію зі штучним інтелектом на X все ще було легко знайти.

У заяві, опублікованій минулими вихідними, X повідомила, що забороняє поширення графічних зображень без дозволу особи, на яку поширюється інформація, і має політику нульової толерантності до такого контенту. У заяві Swift не згадується ім'я.

«Наша команда активно видаляє всі виявлені зображення та вживає відповідних заходів проти облікових записів, які їх опублікували. Ми будемо уважно стежити за ситуацією, щоб забезпечити негайне усунення будь-яких подальших порушень та видалення контенту», – сказав X.

Досягнення в генеративному штучному інтелекті спростили підробку порнографічних зображень інших людей. З X, після того, як він перейшов під контроль Ілона Маска у 2022 році, багато цензурних правил було послаблено, тоді як він звільнив тисячі співробітників, щоб стабілізувати свої фінанси.

Згідно з NBC News, незрозуміло, звідки взялися діпфейкові зображення Тейлор Свіфт, але на них були водяні знаки, що вказували на те, що вони походять з веб-сайту, відомого поширенням підроблених порнографічних зображень знаменитостей. На веб-сайті також є розділ, присвячений діпфейкам зі штучним інтелектом. Підроблені фотографії Свіфт переглянули понад 27 мільйонів разів і отримали понад 260 000 лайків після 19 годин після публікації.

Після інциденту генеральний директор Microsoft Сатья Наделла закликав до запровадження додаткових заходів для регулювання штучного інтелекту. В інтерв'ю NBC News він стверджував, що ми несемо відповідальність за моніторинг цієї нової технології, щоб можна було створювати більш безпечний контент.

Відповідаючи на запитання про діпфейк Свіфт, керівник Microsoft сказав: «Так, ми повинні діяти. Я думаю, що ми всі виграємо від безпечного онлайн- світу . Я не думаю, що хтось хоче онлайн-світу, який є повністю небезпечним як для творців контенту, так і для споживачів контенту. Тому я думаю, що нам потрібно швидко діяти з цього питання».

Згідно з повідомленням 404 Media, група в чаті Telegram заявила, що для підробки фотографії Тейлора використовувала інструмент Designer від Microsoft, створений за допомогою штучного інтелекту. Пан Наделла не коментував безпосередньо інформацію 404 Media, але в заяві, надісланій новинному сайту, Microsoft повідомила, що розслідує це повідомлення та вживатиме відповідних заходів.

Адміністрація президента США Джо Байдена назвала поширення порнографічного діпфейку Тейлор Свіфт «тривожним» і закликала компанії соціальних мереж переглянути свою «життєво важливу роль» у забезпеченні дотримання правил, щоб запобігти поширенню неправдивої інформації та конфіденційних зображень без згоди.

У жовтні 2023 року президент Байден підписав виконавчий указ щодо штучного інтелекту, спрямований на регулювання нових технологій та пов'язаних з ними ризиків.

(За даними The Hill, WSJ)