ИИ создает оскорбительное видео, «оживляя» мертвых

Новый инструмент создания видеороликов OpenAI повергает семьи знаменитостей в кризис, поскольку ИИ «воскрешает» изображения умерших близких в оскорбительных, искаженных и иногда унизительных видеороликах.

Созданные искусственным интеллектом видеоролики умерших людей — от Малкольма Икса до Уитни Хьюстон и Коби Брайанта — вызвали ажиотаж, поставив под сомнение этические границы и контроль над изображениями в эпоху искусственного интеллекта.

Оскорбительный контент

Ильяса Шабазз, дочь борца за гражданские права Малкольма Икса, заявила, что не хочет видеть видеоролики с участием своего отца, созданные искусственным интеллектом. Эти видеоролики были созданы с помощью Sora 2, недавно выпущенного OpenAI инструмента для преобразования текста в видео, с помощью которого были созданы сцены, где Малкольм Икс рассказывает грубые шутки и спорит с преподобным Мартином Лютером Кингом.

«Неуважительно и душераздирающе видеть, как образ моего отца эксплуатируется таким бессмысленным образом. Я не понимаю, почему люди, разрабатывающие эту технологию, не действуют с той же совестью и заботой, как по отношению к собственной семье», — заявил Шабазз газете Washington Post .

Sora 2 создаёт видеоролики из изображений умерших людей без разрешения. Фото: Bloomberg .

Sora 2 быстро стала мировым феноменом благодаря своей способности создавать невероятно реалистичные видео. Всего через несколько дней после запуска приложение взлетело на вершину рейтингов загрузок. Однако его быстрое распространение также привело к появлению в социальных сетях серии фейковых видеороликов со знаменитостями.

«Воскресшие» изображения Майкла Джексона, Элвиса Пресли и Эми Уайнхаус распространялись с головокружительной скоростью, в результате чего многие зрители не смогли отличить настоящие от поддельных.

Некоторые видео задумывались как смешные, например, то, где ведущий шоу «Mr. Rogers' Neighborhood» Фред Роджерс читает рэп вместе с Тупаком Шакуром. Но большая часть создаваемого контента просто перебор.

Среди них видео, изображающее Уитни Хьюстон в состоянии алкогольного опьянения с помощью фальшивого ракурса с полицейской камеры, Коби Брайант, летящий на вертолете во время аварии, в которой погибли он и его дочь, и бывший президент Джон Ф. Кеннеди, шутящий об убийстве современного политика, — все это вызвало гнев общественности.

Слабые правила

Политика OpenAI гласит, что инструмент может имитировать реальных людей только с их согласия. Однако в недавнем запуске компания исключила «исторических личностей» из этого правила, позволив пользователям свободно создавать видеоролики с участием умерших. Это решение вызвало возмущение у многих семей погибших.

Зельда Уильямс, дочь покойного актера Робина Уильямса, рассказала в Instagram, что ей постоянно присылают видеоролики с ее отцом, и попросила людей «пожалуйста, прекратите».

«Безумие видеть, как наследие реальных людей сводится к ужасным выходкам, которыми управляет TikTok», — сказала Зельда.

Правила OpenAI по использованию Sora 2 полны лазеек. Фото: Bloomberg .

Эксперты утверждают, что это явление отражает поворотный момент в развитии технологий искусственного интеллекта, где грань между творчеством и нападением становится размытой. Генри Айдер, исследователь дипфейков, заявил, что «синтетическое воскрешение» мёртвых поднимает серьёзные вопросы о контроле над личным имиджем и наследием.

«Использование изображений знаменитостей для создания контента, безусловно, привлечёт внимание. Но в случае с умершими возникает более глубокий вопрос: кому принадлежат их воспоминания и личность», — сказал Айдер.

В ответ на протесты OpenAI заявила, что позволит представителям недавно умерших публичных личностей требовать удаления их изображений из видеороликов Sora. «Мы считаем, что публичные личности и их семьи должны иметь контроль над использованием их изображений, защищённых авторским правом», — заявил представитель OpenAI.

Несколько организаций в индустрии развлечений США также выразили свою обеспокоенность. Creative Artists Agency, управляющая компания многих голливудских звёзд, заявила, что Sora 2 представляет серьёзный риск для потребителей и интеллектуальной собственности. Американская ассоциация кинокомпаний (MPAA) призвала OpenAI принять «немедленные и решительные» меры для защиты прав создателей.

Жертвами стали не только деятели искусства, но и исторические личности. В одном из видеороликов, созданных Сорой, Уинстон Черчилль рекламирует JetBlue или ссылается на непристойные шутки из интернета.

Источник: https://znews.vn/ai-tao-video-gay-phan-cam-post1593268.html