Хочешь то, что хочешь
Сидя в кофейне и лазя по интернету, г-жа Лоан с удивлением увидела на экране старика, который заходит в «поющий бар», одновременно зовет 5 длинноногих девушек и свободно танцует... «У этого старика лицо, похожее на моего старика. Изображение выходит за рамки воображения, если бы дети в доме увидели эти изображения, что бы они сказали... это была бы проблема», - поделилась г-жа Лоан.
В социальных сетях сейчас много видеороликов с искусственным интеллектом, содержащих непристойное содержание — от звука до изображений.
Еще одно изображение, старик, везущий трех молодых девушек в крутых нарядах на мотоцикле, мчащемся по улице. Водитель кричал: «Держитесь подальше от моей спины, мне в спину впиваются два винта, как я могу это вынести…». Или изображение девушки в бикини, идущей посреди рынка и берущей интервью у старика, содержащее ругань женщин; интервью о своем бывшем возлюбленном с вульгарными ответами…
«В настоящее время на платформах социальных сетей есть сотни и даже тысячи видеороликов, созданных с помощью инструментов ИИ, в которых участвуют полуобнаженные девушки, непристойные диалоги, связанные с физиологией, сексом... и видеоролики, которые нарушают культурные ценности, обращаясь к мобильным пользователям с помощью умных алгоритмов. Кто хочет снять видео любого рода, тому конец», — обеспокоен Тхань Хоай, банковский служащий.
В настоящее время инструменты создания видео на основе ИИ уже не являются чем-то необычным, например, HeyGen, Synthesia, Pictory, InVideo, Kling AI, Luma AI, Veed.io, FlexClip, Wave Video... Каждый инструмент имеет свои сильные стороны с точки зрения функций, качества изображения, персонализации аватара, многоязыковой поддержки или интеграции закадрового голоса ИИ и спецэффектов. Видеоролики ИИ с «реалистичным» качеством и создающие «чрезмерные» изображения и звуки, как упоминалось выше, плотно появляющиеся в сетевой среде, в основном создаются с помощью ИИ Google Veo 3. Это модель ИИ, способная создавать видео из подсказок, интегрируя яркие звуки, такие как диалоги между персонажами или звуки животных, что считается значительно более продвинутым, чем другие модели ИИ, которые создают только «немые» видео или видео с простой фоновой музыкой.
Видеоролики с ИИ, особенно любопытные и вульгарные видео, быстро достигают «ушей и глаз» мобильных пользователей, потому что многие люди могут зарегистрироваться для получения пакетов услуг от поставщиков инструментов ИИ от нескольких десятков долларов США до нескольких сотен долларов США в месяц. В то же время многие люди также предоставляют услуги по созданию полнофункциональных видео с ИИ, такие как базовые пакеты: короткие видео, средние изображения; расширенные пакеты с высококачественными видео, множество эффектов; профессиональные пакеты с креативными видео, расширенные функции... с ценами, зависящими от длины, сложности, дополнительных функций, таких как дубляж, многоязычные субтитры, SEO-оптимизация. «Вы можете иметь любой тип видео с ИИ, который захотите, даже если вам нужен оскорбительный, смешной контент, классные изображения в людных местах, «болезненные» диалоги... мы можем сделать все это», - подтвердил Тронг Хоа, специалист по контенту (создание контента для социальных сетей).
Множество непредсказуемых последствий
Google утверждает, что весь контент, сгенерированный Veo 3, помечен водяным знаком SynthID — технологией DeepMind, которая помогает отслеживать и идентифицировать контент, сгенерированный ИИ. Компания также предоставляет руководство по безопасности, подчеркивая цель помочь пользователям ответственно создавать и идентифицировать контент ИИ...
Но с появлением видеороликов ИИ в целом и инструмента Veo 3 в частности, вопрос этики ИИ поднимается с особой точки зрения. ИИ искажает культурную идентичность: потому что ИИ может создавать «гибридные» версии национальной культуры, вызывая путаницу относительно происхождения, теряя душу культурной идентичности и в долгосрочной перспективе затрудняя для сообщества различение исходного значения и вариации. Нарушение прав собственности на культуру: потому что ИИ легко собирает, копирует и воспроизводит культурные элементы без признания или защиты авторских прав, в результате чего традиционные ценности широко используются. Социально-психологическое воздействие: частое воздействие поддельного контента сбивает пользователей с толку, вызывает сомнения относительно подлинности всей информации, влияя на социальное доверие и общие культурные ценности.
«Быстрое развитие этой технологии привело к тому, что правовые нормы, меры защиты авторских прав и идентификация настоящего и поддельного не поспевают, что приводит к многочисленным проблемам в сохранении и продвижении традиционных культурных ценностей. Видно, что Veo 3 — это не только развлекательный инструмент, но и прорыв для сфер коммуникации, образования , маркетинга и даже кино. Однако наряду с возможностями существуют и значительные проблемы, такие как риск злоупотребления технологиями, замена людей в творческих отраслях и сопутствующие этические проблемы. Поэтому роль политики, этических стандартов и обучения цифровым навыкам для сообщества чрезвычайно важна, чтобы ИИ, подобный Veo 3, мог разрабатываться и использоваться ответственно», — сказал г-н Фан Фуок Куок, директор GenZ Company.
С другой стороны, по мере развития инструментов ИИ растет и риск кибератак. Чем сложнее инструменты ИИ, создающие видео, тем риск кибератак с использованием deepfake будет переходить в новые, более опасные формы. По данным Kaspersky (одной из крупнейших в мире компаний по производству антивирусного программного обеспечения), в среднем deepfake-атака происходит каждые 5 минут, и прогнозируется, что к 2026 году до 90% онлайн-контента будет создаваться с использованием ИИ. Основной целью deepfake-атак по-прежнему остаются обычные пользователи с личной информацией, банковскими и платежными...
«Риск распространения ложного контента и фейкового контента с использованием технологии deepfake беспокоит многих людей. Инструменты ИИ, такие как Veo 3, могут использоваться для создания фейкового контента, влияющего на репутацию отдельных лиц и организаций или вызывающего нарушение общественного порядка», — сказал г-н Ву Нгок Сон, руководитель отдела исследований, консалтинга, развития технологий и международного сотрудничества Национальной ассоциации кибербезопасности (NCA).
БА ТАН
Источник: https://www.sggp.org.vn/canh-giac-video-ai-phan-cam-post799084.html
Комментарий (0)