Риск выхода ИИ из-под контроля

Развитие ИИ несет как положительные, так и отрицательные стороны. А с появлением Соры технология станет еще более горячей, чем когда-либо.

Sora — «новое небо» OpenAI

Sora — это огромный шаг вперед для OpenAI, поскольку он позволяет преобразовывать текст в изображение с невероятным качеством.

На японском языке «Sora» означает небо. Команда, стоящая за технологией, выбрала название Sora, потому что оно вызывает идею безграничного творческого потенциала.

Sora способна создавать анимацию с несколькими персонажами, движущимися с детализированными фонами. Инструмент не только понимает предложения в команде, но и то, как они проявляются в реальности. Согласно отзывам, Sora обладает способностью ускорять работу кинематографистов, в то же время полностью заменяя менее опытных графических инженеров.

Sora — не единственная программа ИИ, которая успешно преобразовала текст в изображения. За последний год появилось много других программ с такой же функцией. Продукты, созданные с помощью технологии ИИ, становятся все более совершенными и реалистичными.

Передовые технологии в основе Sora

Чтобы создавать реалистичные видео , Сора должен понимать язык, запросы и команды пользователя. Но это еще не все, Сора также должен понимать законы физики, как движутся вещи и как меняются свет и тень при движении персонажа.

Например, задача состояла в том, чтобы создать девушку, идущую по улице Токио ночью. И результат, созданный Сорой, был довольно хорош. Если бы у вас не был острый глаз, вы бы не смогли заметить мелкие недостатки в видео.

Видео на 99% реалистично с яркостью уличных фонарей, отражающихся через лужи дождевой воды на земле. Это вещи, которые не находятся в команде, но ИИ понимает физические правила реального мира и рисует их самостоятельно.

Согласно AI news, технология, лежащая в основе Sora, частично является GPT-4, большой мультимодальной моделью, которая может обрабатывать текстовые и графические входные данные. GPT-4 обновляет большую языковую модель OpenAI, которая обучается на больших объемах онлайн-данных для генерации сложных ответов на запросы пользователей.

Остальная часть Sora — это диффузионная модель, превращающая статический шум в связное видео путем его постепенного уменьшения в течение нескольких шагов. Sora также использует ту же технологию, что и Dalle-3: Превращение текста в изображения, здесь с невероятно реалистичными видео.

Как ИИ повлияет на творческую индустрию?

Люди, работающие в области фотографии, кинематографии и графического дизайна, очень заинтересованы в развитии ИИ. В Голливуде, мировой столице кино, эксперты уже измеряют влияние ИИ.

Согласно отчету, к 2026 году 21,4% работников кино, телевидения и анимации в Голливуде, как ожидается, будут заменены искусственным интеллектом.

Летом прошлого года Netflix начал набор на должность менеджера по продукту ИИ с ошеломляющей зарплатой от 300 000 до 900 000 долларов, что в десятки раз превышает зарплату среднестатистического малоизвестного актера.

Опасения по поводу неконтролируемого развития ИИ

Тенденция ИИ подобна большой волне. Если вы научитесь скользить по ней и оставаться на ее вершине, скорее всего, вы, ваша работа и положение будут в безопасности и даже преуспеете.

Однако с возможностью приходит риск. Эти сверхразумные программы искусственного интеллекта также представляют собой риски. А с невообразимым развитием ИИ эти риски становятся еще более тревожными.

По словам доктора Чан Ван Кана, специалиста по обработке данных на факультете информационных технологий Гейдельбергского университета (Германия), хотя текущая модель Sora по-прежнему имеет много недостатков, таких как путаница левого и правого направлений или отсутствие непрерывности изображения на протяжении всего видео, риск создания Sora ложной информации вполне возможен, что еще больше затрудняет определение правды в Интернете.

«С приложением Sora очень сложно отличить реальные новости от фейковых, поскольку видеоролики, созданные Sora, очень реалистичны. OpenAI сама находит ограниченные решения, однако мы должны признать, что радикального решения нет. В ближайшем будущем приложение позволит пользователям предоставлять изображения и текст для создания новых видеороликов, поэтому заявления влиятельных лиц в мире можно будет подделывать очень легко, что приведет к большим последствиям для общественности», - прокомментировал доктор Тран Ван Кань.

До Sora OpenAI выпустила два продукта, включая ChatGPT, который может генерировать текст, похожий на человеческий, и технологию DALL-E, которая создает «Deepfake» — технику, которая использует ИИ для создания поддельных аудио, изображений и видео. Многие люди стали жертвами Deepfake, начиная с Папы Римского, бывшего президента США Дональда Трампа или недавнего инцидента с поп-звездой Тейлор Свифт, чье лицо было пересажено для создания поддельных порнографических изображений.

«На самом деле OpenAI является пионером в технологии GenAI. У них очень превосходная команда ученых . Бюджет, который они инвестируют в модели ИИ, человеческие ресурсы и машинное обучение, очень велик, поэтому продукты, создаваемые OpenAI, обладают очень высоким уровнем аутентичности», - сказал доктор Тран Ван Кань.

Это показывает, что развитие ИИ привносит как положительные, так и отрицательные аспекты в постоянный поток Интернета. И с появлением Sora гонка технологий, как ожидается, станет более жаркой, чем когда-либо. В настоящее время крупные технологические компании, такие как Meta, Google и Runway AI, также исследуют и разрабатывают технологию ИИ для создания видео из текста и анонсировали ряд подобных моделей.

По данным ВТВ

Источник