Срочная необходимость контролировать контент ИИ

Необходимо установить критерии, ограничивающие контент, который пользователи могут создавать с помощью ИИ, и ввести четкую маркировку.

Всего за последние несколько лет искусственный интеллект (ИИ) развивался и постоянно совершенствовался с головокружительной скоростью, став незаменимым инструментом поддержки во многих областях. Veo3 — технология создания видео с использованием ИИ, недавно разработанная Google DeepMind, — способна создавать реалистичные кадры. Помимо утилит, поддерживающих работу пользователей, этот инструмент также представляет собой проблему, связанную с риском использования злоумышленниками в мошеннических целях.

Трудно отличить настоящее от поддельного

По мнению технологической общественности, Veo3 «произвёл фурор» во всём мире благодаря своей функции создания видео с помощью ИИ, уровень реализма которой превосходит все предыдущие инструменты. В отличие от Sora от OpenAI, которая выделяется только качеством изображения, но ограничена в плане звука, Veo3 идеально синхронизирует изображения, звуки окружающей среды и диалоги. Шаги, шум ветра, человеческие голоса и окружающие эффекты — всё это плавно сочетается, достигая такого уровня реалистичности, что пользователям сложно отличить настоящее видео от созданного ИИ.

Во Вьетнаме Veo3 быстро произвел фурор в социальных сетях, таких как TikTok, Facebook и YouTube Shorts. Серия видеороликов с хэштегом #veo3 распространялась с головокружительной скоростью, привлекая миллионы просмотров и сотни тысяч взаимодействий. Многие клипы, созданные ИИ, удивили интернет-сообщество своей невероятной реалистичностью. Например, 8-секундный ролик с простым диалогом набрал 5 миллионов просмотров и более 308 000 лайков. Другое видео, на котором пожилая женщина жарит яичницу, полностью созданное ИИ, также набрало более 2,6 миллиона просмотров и более 104 000 лайков.

Господин Чан Винь Кханг, офисный работник из района 1 города Хошимин, рассказал, что ему было трудно отличить настоящее от поддельного из-за слишком высокой степени реализма. «Я видел видео, где продавец рыбы разговаривает с покупателями на рынке, и подумал, что это настоящее, потому что изображение было таким чётким. То, как он махал рукой, поднимал брови, солнечный свет падал на его лицо — всё было настолько естественно, что было невероятно, будто это создано искусственным интеллектом», — сказал господин Кханг.

Изображения в фильме, созданном Veo3, пользователям сложно отличить настоящие от поддельных

Хотя г-жа Нгуен Май Ань (жительница Хошимина) и призналась, что впечатлена, она выразила обеспокоенность по поводу информационной безопасности. «Видео, созданное Veo3, настолько реалистично, что это вызывает у меня чувство неуверенности. Если злоумышленники используют эту технологию для создания видео с клеветой, дискредитацией или подделкой доказательств, последствия будут очень серьёзными», — заявила г-жа Ань.

Многие вьетнамские пользователи особенно интересуются, как получить доступ к Veo3 и использовать его. Однако Google официально представила Veo3 только на рынке США, через подписку Google AI Ultra стоимостью 249,99 долларов США в месяц. Столкнувшись с этим ограничением, вьетнамское интернет-сообщество нашло способ «обойти барьер» и попробовать его. Многие делятся советами о том, как использовать VPN для смены IP-адреса на американский, а затем зарегистрировать учётную запись Google в поддерживаемом регионе, чтобы активировать Veo3 и использовать его как локальный пользователь. По мнению экспертов по безопасности, это также лазейка, которой злоумышленники могут воспользоваться для своих мошеннических действий.

Необходима правовая база для ИИ

Г-н Ле Хонг Дык, основатель OneAds Digital Company Limited, отметил, что продукты, создаваемые с помощью ИИ, такие как видео, изображения или голоса, приближаются к поразительному уровню реализма и могут быть напрямую запущены в производство и коммерциализацию. Этот взрывной рост даёт очевидные преимущества с точки зрения затрат и времени, но может быть использован для распространения ложной информации или создания общественного беспокойства. В условиях всё более сложных моделей ИИ контроль контента становится актуальным, особенно когда технологии значительно опережают скорость обновления действующего законодательства.

Поэтому г-н Дык предложил срочно разработать специальный закон об ИИ, который бы четко определял ответственность тех, кто создает и распространяет контент с использованием ИИ. Распространение ложного и токсичного контента должно быть наказано и строго пресекаться. В то же время властям необходимо установить критерии, ограничивающие контент, который пользователи могут создавать с помощью ИИ, и четкую маркировку. В случае ненадлежащего применения этих критериев пользователи должны нести юридическую ответственность и компенсировать любой причиненный ущерб. «Разработка отдельного правового регулирования для ИИ крайне важна для контроля этой быстро развивающейся технологии, поддержания здоровой цифровой среды и предотвращения таких последствий, как мошенничество, нарушения этических норм или оскорбление других лиц», — подчеркнул г-н Дык.

Помимо юридических проблем, эксперт по информационной безопасности отметил, что выдающееся развитие Veo3 также вызывает опасения у создателей контента, особенно в таких областях, как кино, телевидение и анимация, которые находятся под угрозой постепенного вытеснения технологиями искусственного интеллекта, что создаёт серьёзную проблему для защиты карьеры и авторских прав в творческой индустрии. «Необходимо в ближайшее время ввести регулирование прав интеллектуальной собственности на контент, создаваемый искусственным интеллектом, поскольку ИИ теперь способен создавать высокореалистичные продукты. В противном случае создатели рискуют потерять работу из-за волны виртуальных произведений, заполонивших рынок», — сказал эксперт.

Остерегайтесь поддельных услуг

После бурного развития Veo3 в социальных сетях многие пользователи, называющие себя «экспертами в области искусственного интеллекта», начали делиться демонстрационными видеороликами, инструкциями по доступу к Veo3 или продавать аккаунты и услуги поддержки по цене от 200 000 до 300 000 донгов. Некоторые пользователи сообщили, что им удалось получить доступ и опробовать Veo3, но не всем удалось это сделать. Г-н Ле Хонг Дык предупредил пользователей о необходимости быть осторожными с поддельными или неофициальными сервисами и рекомендовал дождаться официального запуска Veo3 на вьетнамском рынке, чтобы избежать финансового мошенничества, кражи данных или перехвата контроля над аккаунтами Google.

Источник: https://nld.com.vn/cap-bach-kiem-soat-noi-dung-ai-196250607190357821.htm