Искусственный интеллект создает оскорбительное видео при «оживлении» мертвых.

Новый инструмент для создания видеороликов от OpenAI повергает семьи знаменитостей в кризис, поскольку изображения умерших близких «воскрешаются» искусственным интеллектом в оскорбительных, искаженных и порой унизительных видео.

Созданные с помощью ИИ видеоролики с участием умерших людей, от Малкольма Икс до Уитни Хьюстон и Коби Брайанта, вызвали ажиотаж, подняв вопросы об этических границах и контроле над имиджем в эпоху ИИ.

Оскорбительный контент

Ильяса Шабазз, дочь борца за гражданские права Малкольма Икса, говорит, что не хочет видеть никаких видеороликов со своим отцом, созданных с помощью ИИ. Эти видео были сделаны с использованием Sora 2, недавно выпущенного инструмента OpenAI для преобразования текста в видео, чтобы создать сцены, где Малкольм Икс рассказывает грубые анекдоты и спорит с преподобным Мартином Лютером Кингом.

«Это неуважительно и душераздирающе — видеть, как образ моего отца используется таким бессмысленным образом. Я не понимаю, почему люди, разрабатывающие эту технологию, не проявляют той же совести и заботы, что и по отношению к собственной семье», — сказал Шабазз газете Washington Post .

Sora 2 создает видеоролики из изображений умерших людей без их разрешения. Фото: Bloomberg .

Приложение Sora 2 быстро стало мировым феноменом благодаря своей способности создавать невероятно реалистичные видеоролики. В течение нескольких дней после запуска приложение взлетело на вершину рейтингов загрузок. Однако его стремительное распространение также привело к появлению в социальных сетях серии фейковых видеороликов со знаменитостями.

«Возрожденные» изображения Майкла Джексона, Элвиса Пресли и Эми Уайнхаус распространились с головокружительной скоростью, из-за чего многие зрители не смогли отличить подлинные фотографии от подделок.

Некоторые видеоролики призваны быть смешными, например, тот, где ведущий программы «Соседство мистера Роджерса» Фред Роджерс читает рэп вместе с Тупаком Шакуром. Но большая часть создаваемого контента просто перегибает палку.

Среди них – видео, воссоздающее состояние Уитни Хьюстон в состоянии алкогольного опьянения с помощью фальшивого ракурса полицейской камеры, кадры полета Коби Брайанта на вертолете во время аварии, в которой погибли он и его дочь, а также шутка бывшего президента Джона Ф. Кеннеди об убийстве современного политика – все это вызвало гнев общественности.

Слабое регулирование

В политике OpenAI указано, что инструмент может имитировать реальных людей только с их согласия. Однако при недавнем запуске компания исключила из этого правила «исторических личностей», позволив пользователям свободно создавать видеоролики с участием умерших людей. Это решение вызвало возмущение многих семей жертв.

Зельда Уильямс, дочь покойного актера Робина Уильямса, поделилась в Instagram, что ей постоянно присылают видео с участием ее отца, созданные искусственным интеллектом, и умоляла людей «пожалуйста, прекратите».

«Это безумие — видеть, как наследие реальных людей сводится к ужасным выходкам, которые контролирует TikTok», — сказала Зельда.

Правила OpenAI по использованию Sora 2 полны лазеек. Фото: Bloomberg .

Эксперты говорят, что это явление отражает поворотный момент в технологиях искусственного интеллекта, где грань между творчеством и оскорблением размывается. Генри Айдер, исследователь дипфейков, заявил, что «синтетическое воскрешение» мертвых поднимает серьезные вопросы о контроле над личным имиджем и наследием.

«Если использовать изображения знаменитостей для создания контента, это, безусловно, привлечет просмотры. Но в случае с умершими это затрагивает более глубокий вопрос: кому принадлежат их воспоминания и личность», — сказал Айдер.

В ответ на волну возмущения компания OpenAI заявила, что позволит представителям недавно скончавшихся общественных деятелей запрашивать блокировку их изображений в видеороликах Соры. «Мы считаем, что общественные деятели и их семьи должны иметь контроль над тем, как используются их изображения, защищенные авторским правом», — заявил представитель OpenAI.

Несколько организаций в американской индустрии развлечений также выразили свою обеспокоенность. Агентство Creative Artists Agency, управляющее многими голливудскими звездами, заявило, что Sora 2 подвергает серьезному риску клиентов и интеллектуальную собственность. Ассоциация кинопроизводителей Америки (MPAA) призвала OpenAI принять «немедленные и решительные» меры для защиты прав создателей.

Жертвами становятся не только художники; исторические личности тоже. В видеоролике, созданном Сорой, Уинстон Черчилль рекламирует авиакомпанию JetBlue или отпускает непристойные шутки в интернете.

Источник: https://znews.vn/ai-tao-video-gay-phan-cam-post1593268.html