Штучний інтелект створює образливе відео під час «оживлення» мертвих

Новий інструмент для створення відео від OpenAI ставить родини знаменитостей у кризову ситуацію, оскільки штучний інтелект «воскресає» зображення померлих близьких у образливих, спотворених, а іноді й принизливих відео.

Згенеровані штучним інтелектом відео померлих людей, від Малкольма Ікса до Вітні Х'юстон та Кобі Брайанта, викликали ажіотаж, порушуючи питання про етичні межі та контроль над зображеннями в епоху штучного інтелекту.

Образливий контент

Ільяса Шабазз, дочка правозахисника Малкольма Ікса, каже, що не хоче бачити жодних кліпів зі своїм батьком, згенерованих штучним інтелектом. Ці відео були створені за допомогою Sora 2, нещодавно випущеного інструменту OpenAI для перетворення тексту на відео, для створення сцен, де Малкольм Ікс розповідає грубі жарти та сперечається з преподобним Мартіном Лютером Кінгом.

«Це неповага та душероздираюче бачити, як образ мого батька експлуатують таким безглуздим чином. Я не розумію, чому люди, які розробляють цю технологію, не діють з такою ж совістю та турботою, як і щодо власної родини», – сказав Шабазз газеті «Вашингтон пост» .

Sora 2 створює відео з зображень померлих людей без дозволу. Фото: Bloomberg .

Sora 2 швидко стала світовим феноменом завдяки своїй здатності створювати неймовірно реалістичні відео. Протягом кількох днів після запуску додаток злетів на вершину чартів завантажень. Однак його швидке поширення також означало появу серії фальшивих відео знаменитостей у соціальних мережах.

«Воскреслі» образи Майкла Джексона, Елвіса Преслі та Емі Вайнхаус поширювалися із запаморочливою швидкістю, залишаючи багатьох глядачів нездатними відрізнити справжнє від фальшивого.

Деякі відео задумані як кумедні, як-от те, де ведучий «Сусідства містера Роджерса» Фред Роджерс читає реп із Тупаком Шакуром. Але більша частина створеного контенту просто забагато.

Серед них відео, на якому відтворено Вітні Г'юстон у нетверезому стані через фальшивий ракурс з поліцейської камери, Кобі Браянт, який летить на гелікоптері в аварії, в якій загинув він та його дочка, та колишній президент Джон Ф. Кеннеді, який жартує про вбивство сучасного політика, викликало обурення громади.

Нечіткі правила

Політика OpenAI стверджує, що інструмент може імітувати реальних людей лише за їхньої згоди. Однак, під час нещодавнього запуску компанія звільнила «історичні постаті» від цього правила, дозволивши користувачам вільно створювати відео померлих людей. Це рішення розлютило багато сімей жертв.

Зельда Вільямс, дочка покійного актора Робіна Вільямса, поділилася в Instagram, що їй постійно надсилали відео зі штучним інтелектом про її батька, і вона благала людей «буть ласка, зупинитися».

«Це божевілля — бачити, як спадщина реальних людей перетворюється на жахливі витівки, тоді як TikTok контролює їх», — сказала Зельда.

Правила OpenAI щодо використання Sora 2 повні лазівок. Фото: Bloomberg .

Експерти кажуть, що це явище відображає поворотний момент у технології штучного інтелекту, коли межа між креативністю та образою розмивається. Генрі Аждер, дослідник діпфейків, сказав, що «синтетичне воскресіння» мертвих ставить великі питання щодо контролю над особистим іміджем та спадщиною.

«Якщо ви використовуєте зображення знаменитостей для створення контенту, це точно приверне увагу. Але у випадку з померлими це торкається глибшого питання: кому належать їхні спогади та ідентичність», – сказав Аждер.

У відповідь на цей протест, OpenAI заявила, що дозволить представникам нещодавно померлих публічних осіб вимагати блокування їхніх зображень у відео Sora. «Ми вважаємо, що публічні особи та їхні родини повинні контролювати, як використовуються їхні зображення, захищені авторським правом», – сказав речник OpenAI.

Кілька організацій у американській індустрії розваг також висловили свою стурбованість. Creative Artists Agency, керуюча компанія багатьох голлівудських зірок, заявила, що Sora 2 поставила під серйозну загрозу клієнтів та інтелектуальну власність. Американська асоціація кіноіндустрії (MPAA) закликала OpenAI вжити «негайних та рішучих» заходів для захисту прав творців.

Це стосується не лише митців, а й історичних діячів. В одному відео, створеному Сорою, показано Вінстона Черчилля, який рекламує JetBlue або посилається на брудні інтернет-жарти.

Джерело: https://znews.vn/ai-tao-video-gay-phan-cam-post1593268.html