Социальная сеть X была вынуждена заблокировать поиск по имени Тейлор Свифт после того, как в сети распространились дипфейковые порнографические изображения певицы. При поиске Тейлор Свифт на платформе X пользователи видят сообщение об ошибке и просят перезагрузить страницу. Джо Бенаррох, директор по бизнес-операциям X, заявил, что это предварительная мера, которая предпринимается с осторожностью.

ofdhxx6v.png
Фотографии обнажённой Тейлор Свифт, созданные искусственным интеллектом, заполонили X и Facebook, прежде чем их удалили. (Фото: Reuters)

Сгенерированные искусственным интеллектом порнографические изображения Тейлор Свифт начали распространяться на платформе X 24 января, что побудило поклонников певицы опубликовать серию реальных фотографий звезды, чтобы «утопить» дипфейк. Они также призвали X принять более строгие меры по удалению этих фотографий и жалобам на аккаунты, публикующие фейковые фотографии. Слоган «Защитим Тейлор Свифт» также стал одним из главных трендов на платформе.

На следующий день указанные аккаунты были заблокированы или ограничены, однако на сайте X по-прежнему можно было с легкостью найти порнографию, связанную с искусственным интеллектом.

В заявлении, опубликованном на выходных, компания X заявила, что запрещает распространение изображений без разрешения пользователя и придерживается политики нулевой терпимости к подобному контенту. Имя Swift в заявлении не упоминалось.

«Наша команда активно удаляет все обнаруженные изображения и принимает соответствующие меры в отношении аккаунтов, которые их разместили. Мы будем внимательно следить за ситуацией, чтобы гарантировать немедленное устранение любых дальнейших нарушений и удаление контента», — заявил X.

Достижения в области генеративного искусственного интеллекта упростили подделку порнографических изображений других людей. С приходом X в 2022 году, многие цензурные правила были смягчены, и он уволил тысячи сотрудников, чтобы стабилизировать своё финансовое положение.

По данным NBC News, происхождение фейковых изображений Тейлор Свифт неизвестно, однако водяные знаки на них указывают на то, что они были получены с сайта, известного распространением поддельных порнографических изображений знаменитостей. На сайте также есть раздел, посвящённый ИИ-глубоким фейкам. Поддельные фотографии Свифт были просмотрены более 27 миллионов раз и получили более 260 000 лайков за 19 часов после публикации.

После инцидента генеральный директор Microsoft Сатья Наделла призвал к ужесточению контроля над искусственным интеллектом. В интервью NBC News он заявил, что мы обязаны следить за этой новой технологией, чтобы создавать более безопасный контент.

Отвечая на вопрос о дипфейке Swift, глава Microsoft сказал: «Да, мы должны действовать. Я думаю, что мы все выигрываем от безопасного онлайн- мира . Не думаю, что кто-то хочет, чтобы онлайн-мир был совершенно небезопасен как для создателей контента, так и для его потребителей. Поэтому, я думаю, нам нужно быстро действовать в этом вопросе».

По данным 404 Media, группа пользователей Telegram заявила, что использовала инструмент Microsoft Designer, созданный на основе искусственного интеллекта, для подделки фотографии Тейлора. Г-н Наделла не стал напрямую комментировать информацию 404 Media, но в заявлении, отправленном новостному сайту, Microsoft сообщила, что расследует сообщение и примет соответствующие меры.

Администрация президента США Джо Байдена назвала распространение порнографических фейковых постов Тейлор Свифт «тревожным» и призвала компании, управляющие социальными сетями, проанализировать свою «жизненно важную роль» в обеспечении соблюдения правил для предотвращения распространения ложной информации и конфиденциальных изображений без согласия.

В октябре 2023 года президент Байден подписал указ об ИИ, направленный на регулирование новых технологий и связанных с ними рисков.

(По данным The Hill, WSJ)