GrokAI Илона Маска создаёт порноклипы

Grok создал порнографический контент с певицей Тейлор Свифт всего за несколько кликов. Фото: AOL .

Инструмент для создания видеороликов на основе искусственного интеллекта Grok от xAI, принадлежащий Илону Маску, только что запустил спорный и потенциально рискованный с юридической точки зрения новый режим.

В отличие от конкурентов, таких как Veo от Google и Sora от OpenAI, которые имеют встроенные строгие меры защиты, Grok Imagine с легкостью позволяет пользователям создавать как порнографический контент, так и фейковые изображения знаменитостей, что представляет собой серьезный риск для технологических платформ.

Согласно тесту The Verge , при первом использовании Grok автоматически создал полуобнажённые видеоролики певицы Тейлор Свифт. Стоит отметить, что, хотя пользователь не заказывал этого, инструмент всё равно создавал порнографический контент.

Функция Grok Imagine на iOS позволяет пользователям создавать изображения из текста, а затем превращать их в короткие видеоклипы с четырьмя режимами: «Пользовательский», «Обычный», «Смешной» и «Горячий».

В отличие от многих других генераторов изображений, которые обычно избегают воссоздания образов знаменитостей, на просьбу создать «Тейлор Свифт празднует на фестивале Coachella» Grok предоставил более 30 изображений, на многих из которых певица была изображена в откровенных нарядах.

Фотография Тейлор Свифт в откровенном наряде от Grok. Фото: TheVerge.

Согласно тесту, всего за несколько простых шагов Grok может превратить фотографию Тейлор Свифт в порнографическое видео. В частности, после того, как пользователь выберет доступное фото и активирует режим «горячо», система автоматически создаст видео, в котором певица раздевается и танцует в нижнем белье.

Изображение Тейлор Свифт, пусть и не совсем аутентичное, всё же достаточно узнаваемо. Примечательно, что генератор изображений Grok не генерирует обнажённый контент по запросу. Однако переключение в режим «горячий» не всегда создаёт полную обнажённость, но во многих случаях персонаж в видео всё равно автоматически раздевается.

Генератор изображений Grok может создавать реалистичные фотографии детей. Однако инструмент отказывался создавать некорректную анимацию, несмотря на то, что пользователь выбрал «горячий» режим. Во всех тестах Grok добавлял только обычные движения, что свидетельствует о работоспособности механизма защиты детей.

Компания xAI, которая оказалась втянута в скандал из-за фейкового видео Тейлор Свифт, должна была быть более осторожной, особенно учитывая ужесточение правовых норм в отношении порнографии со знаменитостями.

В то время как политика использования xAI запрещает создание порнографического контента из фотографий других людей, Grok Imagine, похоже, не принимает никаких мер, чтобы помешать пользователям использовать изображения знаменитостей, таких как Тейлор Свифт.

Инструмент даже предлагает сервис, специально предназначенный для создания порнографических видеороликов. Примечательно, что проверка возраста в системе очень слабая, выполняется только один раз и её можно легко обойти без подтверждения личности.

Благодаря лазейкам в цензуре, любой, у кого есть iPhone и подписка на SuperGrok за 30 долларов, может создавать столь же откровенные видео. По словам Илона Маска, с понедельника с помощью Grok Imagine было создано более 34 миллионов изображений, что говорит о том, что популярность инструмента «растёт как лесной пожар».

Источник: https://znews.vn/ai-cua-elon-musk-tao-noi-dung-khieu-dam-cua-nguoi-noi-tieng-post1574660.html