Управление темной стороной искусственного интеллекта

Для функционирования ИИ необходим «мозг», называемый моделью ИИ — система математических моделей и алгоритмов, обученных на огромных объемах данных. Именно эта модель позволяет машине изучать правила, анализировать информацию, делать прогнозы или создавать новый контент…

В: Что такое модель искусственного интеллекта (ИИ) и какие типы моделей популярны сегодня?

Ответ: Для функционирования ИИ необходим «мозг», называемый моделью ИИ — система математических моделей и алгоритмов, обученных на огромных объемах данных. Именно эта модель позволяет машине изучать правила, анализировать информацию, делать прогнозы или создавать новый контент...

На основе ввода и вывода текущие модели ИИ можно разделить на несколько групп. Самая популярная сегодня группа — это text-to-text, в которой пользователи вводят текст, а ИИ генерирует соответствующий текст ответа (чат-боты, такие как ChatGPT, Gemini, Claude…). Группа text-to-image имеет ввод в виде текстового описания, вывод в виде сгенерированного ИИ изображения (Midjourney, DALL·E…).

Далее следует группа «текст-аудио», которая преобразует текст в речь или звуковые эффекты; группа «изображение-текст», которая использует изображения в качестве входных данных для ИИ для создания описаний или анализа; группа «изображение-изображение» преобразует изображения в другие изображения, часто используемые для таких задач, как восстановление, преобразование стиля; группа «изображение- видео» , ИИ будет создавать имитированные видеоролики на основе неподвижных изображений; группа «видео-текст» позволяет анализировать или обобщать контент из видеороликов, применяемый в системах извлечения информации, аннотирования видео или анализа данных наблюдения.

Одной из особенно мощных групп сегодня является text-to-video, которая преобразует текст в видео. С помощью этого типа модели пользователи просто вводят короткое описание, и система ИИ сгенерирует видео, которое соответствует контексту, действию, освещению и даже углу камеры.

Такие известные инструменты, как Pika Labs, Sora (OpenAI) и недавно мировое технологическое сообщество, включая Вьетнам, обратили особое внимание на Veo 3, инструмент, разработанный Google DeepMind. Клипы, созданные Veo 3, почти абсолютно реалистичны, приближаясь к уровню профессиональных кинематографистов, заставляя многих восхищаться.

Создание видеороликов стало таким же простым, как написание абзаца, что привело к появлению большого количества «мусорного» контента, созданного только для привлечения внимания, включая сенсационные видеоролики, использующие вульгарную лексику или содержащие ложную информацию. Что еще опаснее, такие инструменты, как Veo 3, хотя и не являются специализированным инструментом deepfake, все еще могут быть использованы для создания сложных поддельных изображений или голосов реальных людей, легко обманывая зрителей, нанося ущерб личной репутации, информационной безопасности и общественному порядку, увеличивая риск мошенничества в киберпространстве (Deepfake — это технология, которая применяет ИИ для создания поддельных изображений, видео и звуков, которые выглядят настолько реальными, что пользователи с трудом различают...).

Еще более тревожно то, что создается и распространяется с головокружительной скоростью множество искаженного и ложного контента, который проникает во все социальные сети без проверки и контроля. Наиболее доступными и уязвимыми субъектами являются дети и подростки, у которых часто отсутствуют навыки различения правды и лжи, поэтому они очень восприимчивы к токсичному контенту, что оставляет долгосрочные последствия для восприятия и поведения.

В: Учитывая быстрое развитие таких инструментов, как Veo 3, каково решение, позволяющее эффективно ограничить использование ИИ в ненадлежащих целях?

Ответ: Видно, что текущая система управления и права все еще отстает от темпов развития технологии ИИ, создавая множество правовых пробелов и непредсказуемых рисков. Это требует раннего создания проактивной, гибкой и синхронной структуры управления; в то же время повышения осведомленности общественности об ответственном использовании ИИ.

Ответственное развитие ИИ зависит в первую очередь от нас — тех, кто его создает, управляет и использует. Понятие инновации и управления следует рассматривать не как два противоположных полюса, а как две стороны процесса, о котором уже много раз упоминалось. Поэтому, с одной стороны, нам нужно быть открытыми для поощрения технологического развития, с другой стороны, нам нужно активно устанавливать этические принципы и правовые коридоры, соответствующие новому контексту.

Во Вьетнаме, помимо дальнейшего совершенствования институтов, в последнее время упоминается ряд решений, таких как предложение Комитета по этике ИИ Вьетнамской ассоциации по программному обеспечению и услугам в области информационных технологий (VINASA) о создании Кодекса этики ИИ, чтобы установить поведенческие ограничения как для разработчиков, так и для пользователей.

Наряду с этим существует идея формирования национального стандартного набора языков открытых данных с целью помочь отечественным и зарубежным разработчикам ИИ получить основу для соответствия политическим факторам, культурному, правовому и историческому контексту Вьетнама.

Предложение классификации и маркировки для продуктов ИИ также является жизнеспособной идеей. Метки ИИ должны быть обязательными и могут быть категоризированы по разным уровням вмешательства: от частичного редактирования до полного производства или по содержанию, как это уже сделано для игр и фильмов.

Наряду с этим, необходимо создание четкого механизма пост-аудита, возлагающего ответственность на конечный результат. С социальной точки зрения, образование в области цифровой грамотности для всего населения, особенно детей и подростков, имеет важное значение; помогая оснастить способность определять вредоносный контент, отработка правил проверки информации являются фундаментальными решениями в обществе, которое все больше беспокоит виртуальный контент.

КУАНГ ХУЙ

Источник: https://nhandan.vn/kiem-soat-mat-trai-cua-tri-tue-nhan-tao-post886971.html