Социальная сеть X была вынуждена заблокировать поиск по Тейлор Свифт после того, как порнографические изображения певицы Deepfake стали вирусными. При поиске Тейлор Свифт на платформе X пользователи увидят сообщение об ошибке и запрос на перезагрузку страницы. Джо Бенаррох, директор по бизнес-операциям X, сказал, что это было предварительное действие и было сделано из предосторожности.
Порнографические изображения Тейлор Свифт, созданные искусственным интеллектом, начали распространяться на платформе X 24 января, побуждая поклонников певицы публиковать серию реальных фотографий звезды, чтобы «утопить» дипфейк. Они также попросили X принять более жесткие меры по удалению этих фотографий и сообщать об аккаунтах, которые делились поддельными фотографиями. Слоган «защитите Тейлор Свифт» также стал главным трендом на платформе.
Днем позже указанные аккаунты были заблокированы или ограничены, но на X все еще можно было легко найти порнографию, связанную с искусственным интеллектом.
В заявлении, сделанном в выходные, X заявила, что запрещает распространение графических изображений без разрешения субъекта и придерживается политики нулевой терпимости к такому контенту. В заявлении имя Swift не упоминается.
«Наша команда активно удаляет все изображения, которые были идентифицированы, и принимает соответствующие меры в отношении аккаунтов, которые их разместили. Мы будем внимательно следить за ситуацией, чтобы гарантировать, что любые дальнейшие нарушения будут немедленно устранены, а контент удален», — сказал X.
Достижения в области генеративного ИИ упростили подделку порнографических изображений других людей. С X, после того как Илон Маск приобрел его в 2022 году, многие правила цензуры были смягчены, в то время как он уволил тысячи сотрудников, чтобы стабилизировать свои финансы.
Неясно, откуда появились deepfakes Тейлор Свифт, но они были помечены водяными знаками, указывающими на то, что они пришли с веб-сайта, известного распространением поддельных порнографических изображений знаменитостей, согласно NBC News. На сайте даже есть раздел, посвященный deepfakes ИИ. Поддельные фотографии Свифт были просмотрены более 27 миллионов раз и получили более 260 000 лайков в течение 19 часов после публикации.
После инцидента генеральный директор Microsoft Сатья Наделла призвал установить больше защитных барьеров для регулирования ИИ. В интервью NBC News он утверждал, что мы обязаны следить за этой новой технологией, чтобы можно было производить более безопасный контент.
Отвечая на вопрос о дипфейке Swift, глава Microsoft сказал: «Да, мы должны действовать. Я думаю, что мы все выигрываем от безопасного онлайн- мира . Я не думаю, что кто-то хочет полностью небезопасного онлайн-мира как для создателей контента, так и для потребителей контента. Поэтому я думаю, что нам нужно быстро действовать по этой проблеме».
По данным 404 Media, группа чата Telegram заявила, что использовала инструмент Microsoft Designer, созданный на основе искусственного интеллекта, для подделки фотографии Тейлора. Г-н Наделла не прокомментировал информацию 404 Media напрямую, но в заявлении, отправленном на новостной сайт, Microsoft сообщила, что расследует сообщение и примет соответствующие меры.
Администрация Байдена назвала распространение порнографического дипфейка Тейлор Свифт «тревожным» и призвала компании социальных сетей проанализировать свою «жизненно важную роль» в обеспечении соблюдения правил для предотвращения распространения ложной информации и конфиденциальных изображений без согласия.
В октябре 2023 года президент Байден подписал указ об ИИ, направленный на регулирование новых технологий и связанных с ними рисков.
(По данным The Hill, WSJ)
Источник
Комментарий (0)