Дипфейки заполонили социальную сеть OpenAI Sora, генеральный директор Сэм Альтман стал «мем-феноменом»

(NLDO) - Разработанное OpenAI приложение для обмена видео на базе ИИ Sora столкнулось с волной споров, поскольку повсюду появляются поддельные видеоролики с использованием ИИ.

Компания OpenAI только что запустила Sora 2 — обновленную версию приложения Sora AI, новой социальной видеосети на базе искусственного интеллекта от OpenAI.

Помимо возможности создания видеороликов из текста и редактирования коротких видеороликов с изображениями и движениями, вполне реалистично соответствующими описанию пользователя, как и в оригинальной версии, Sora 2 обладает возможностью создания звука и лучшей обработки физики.

Sora 2 от OpenAI завоёвывает мир. Фото: CNBC

Более того, Sora 2 получила возможность воссоздавать сложные сцены, такие как прыжки, катание на скейтборде или полёты. Эксперты считают это самой передовой на сегодняшний день технологией видеосъёмки с использованием искусственного интеллекта.

Наряду с этим OpenAI устроила «засаду» на социальные сети с помощью приложения Sora для iOS в США и Канаде.

Приложение Sora позволяет пользователям создавать, делиться и просматривать видеоролики с использованием ИИ, аналогичные TikTok или Instagram Reels, с функцией «камео». Пользователи могут регистрировать данные своего лица и голоса, чтобы вставлять себя в видеоролики с использованием ИИ, позволяя друзьям использовать эту функцию в общих видео.

ИИ-аватар генерального директора OpenAI Сэма Альтмана Норм Макдональд на Соре. Скриншот/Сора 2

Скандал разгорелся после того, как камео генерального директора OpenAI Сэма Альтмана было опубликовано в приложении Sora, а в течение 24 часов в социальных сетях появилась серия фейковых видеороликов с его лицом.

Эта неожиданная ситуация превратила генерального директора OpenAI в «мем-феномен», а Сору — в глобальную «фабрику» по производству дипфейков.

Несмотря на то, что тестирование проводилось только в США и Канаде, популярность Sora взлетела до такой степени, что пригласительные коды Sora продаются по всему eBay.

Сора 2: Вершина технологий или машина для создания дипфейков?

Нельзя отрицать, что этот феномен помог Соре стать «вирусным» с головокружительной скоростью. Однако многие выразили обеспокоенность, если подобная ситуация повторится с политиками , знаменитостями или влиятельными людьми.

Был поднят вопрос, вызвавший множество опасений и споров: как OpenAI справляется, когда влиятельные люди оказываются в ситуациях, подобных ситуации г-на Сэма Альтмана?

По данным OpenAI, приложение Sora работает аналогично другим платформам коротких видео, таким как TikTok, Meta Reels или YouTube Shorts, используя алгоритмы для предложения контента на основе привычек пользователей.

Единственное отличие в том, что приложение Sora — первая социальная сеть, полностью сосредоточившаяся на видео с использованием искусственного интеллекта.

TechCrunch отметил, что Sora 2 технически впечатляет, позволяя создавать очень реалистичные кадры. Однако именно поэтому Sora легко использовать для создания негативных видеороликов, преследуя неблаговидные цели.

Это обстоятельство заставило OpenAI быстро разработать механизм контроля безопасности для пользователей в виртуальном мире .

В частности, OpenAI, как сообщается, выявила противоречие в своей стратегии развития при запуске Sora. Компания полна решимости сохранить имидж «лаборатории, ориентированной на безопасность человека», одновременно расширяя свою деятельность на рынке потребительских товаров для получения дохода. «Нам нужен капитал для разработки ИИ для науки, но также важно создавать продукты, которые вызывают улыбку у людей и позволяют сократить эксплуатационные расходы», — заявил генеральный директор Сэм Альтман.

Многие эксперты и бывшие сотрудники OpenAI не скрывают своего скептицизма относительно целей технологической компании.

«Сора впечатляет с технической точки зрения, но пока рано говорить о том, что мы сможем избежать ловушек других социальных сетей», — говорит профессор Боаз Барак, исследователь OpenAI из Гарвардского университета.

До настоящего времени американские регулирующие органы внимательно следили за переходом OpenAI к коммерческой модели.

Открывая новую эру для видео на основе ИИ, Сора также ставит OpenAI в центр споров, поскольку существуют многочисленные противоречия между его достижениями в революции развлечений и непредсказуемыми проблемами, связанными с поддельными видео.

Источник: https://nld.com.vn/deepfake-tran-lan-mang-xa-hoi-sora-cua-openai-ceo-sam-altman-thanh-hien-tuong-meme-19625100319140805.htm