Социальная сеть X была вынуждена заблокировать поиск по имени Тейлор Свифт после того, как в сети распространились дипфейковые порнографические изображения певицы. При поиске Тейлор Свифт на платформе X пользователи видят сообщение об ошибке и предложение перезагрузить страницу. Джо Бенаррох, директор по бизнес-операциям X, заявил, что это предварительная мера, предпринятая в целях предосторожности.
Сгенерированные искусственным интеллектом порнографические изображения Тейлор Свифт начали распространяться на платформе X 24 января, что побудило поклонников певицы опубликовать серию реальных фотографий звезды, чтобы «утопить» дипфейк. Они также призвали X принять более строгие меры по удалению этих фотографий и сообщать об аккаунтах, публикующих фейковые фотографии. Слоган «Защитим Тейлор Свифт» также стал одним из главных трендов на платформе.
На следующий день указанные аккаунты были заблокированы или ограничены, однако на сайте X по-прежнему можно было с легкостью найти порнографию, связанную с искусственным интеллектом.
В заявлении, опубликованном на выходных, компания X заявила, что запрещает распространение изображений без разрешения пользователя и придерживается политики нулевой терпимости к подобному контенту. Имя Swift в заявлении не упоминалось.
«Наша команда активно удаляет все обнаруженные изображения и принимает соответствующие меры в отношении аккаунтов, которые их разместили. Мы будем внимательно следить за ситуацией, чтобы гарантировать немедленное устранение любых дальнейших нарушений и удаление контента», — заявил X.
Достижения в области генеративного искусственного интеллекта упростили подделку порнографических изображений других людей. С появлением X, после того как Илон Маск приобрёл его в 2022 году, многие цензурные правила были смягчены, и он уволил тысячи сотрудников, чтобы стабилизировать своё финансовое положение.
Неясно, откуда появились дипфейки Тейлор Свифт, но, по данным NBC News, они были помечены водяными знаками, указывающими на то, что они были взяты с сайта, известного распространением поддельных порнографических изображений знаменитостей. На сайте даже есть раздел, посвящённый дипфейкам с использованием искусственного интеллекта. Поддельные фотографии Свифт были просмотрены более 27 миллионов раз и получили более 260 000 лайков в течение 19 часов после публикации.
После инцидента генеральный директор Microsoft Сатья Наделла призвал к ужесточению контроля над искусственным интеллектом. В интервью NBC News он заявил, что мы обязаны следить за этой новой технологией, чтобы создавать более безопасный контент.
Отвечая на вопрос о дипфейке Swift, глава Microsoft сказал: «Да, мы должны действовать. Я думаю, что мы все выигрываем от безопасного онлайн- мира . Не думаю, что кто-то хочет полностью небезопасного онлайн- мира как для создателей контента, так и для его потребителей. Поэтому, я думаю, нам нужно быстро действовать в этом вопросе».
По данным 404 Media, группа пользователей Telegram заявила, что использовала инструмент Microsoft Designer, созданный на основе искусственного интеллекта, для подделки фотографии Тейлора. Г-н Наделла не стал напрямую комментировать информацию 404 Media, но в заявлении, отправленном новостному сайту, Microsoft сообщила, что расследует сообщение и примет соответствующие меры.
Администрация Байдена назвала распространение порнографических фейковых материалов Тейлор Свифт «тревожным» и призвала компании, управляющие социальными сетями, проанализировать свою «жизненно важную роль» в обеспечении соблюдения правил для предотвращения распространения ложной информации и конфиденциальных изображений без согласия.
В октябре 2023 года президент Байден подписал указ об ИИ, направленный на регулирование новых технологий и связанных с ними рисков.
(По данным The Hill, WSJ)
Источник
Комментарий (0)