Прозрачность продуктов искусственного интеллекта

Многие современные продукты искусственного интеллекта (ИИ) не раскрывают уровень технологического вмешательства, что затрудняет пользователям возможность отличить настоящий продукт от подделки. В этой ситуации чёткое определение обязательства по обеспечению прозрачности и маркировке продуктов ИИ стало насущной необходимостью.

Выставочный стенд FPT , посвященный применению ИИ в различных областях.

Сегодня многие продукты ИИ, от создания визуального, аудио и текстового контента до автоматизированной поддержки принятия решений, не имеют маркировки и распространяются как обычный контент. В результате пользователи не знают, взаимодействуют ли они с контентом, созданным человеком или ИИ, и могут поверить в дезинформацию или манипуляцию.

Например, салон красоты публикует созданную ИИ рекламу с изображением модели, заставляя клиентов ошибочно поверить в её подлинность, но при оказании услуги они обнаруживают, что качество не соответствует заявленному. Ещё более опасно то, что ИИ создаёт поддельные фотографии известных людей, видеоролики, имитирующие заявления политиков, или статьи, созданные ИИ, но с именами реальных людей, что наносит ущерб личной чести и репутации агентств и организаций.

Кроме того, отсутствие механизма маркировки снижает доверие пользователей к цифровым платформам и продуктам ИИ. Цифровая среда, не обеспечивающая прозрачности в отношении происхождения контента, вызывает у пользователей подозрения и отчуждение. При этом большинство вьетнамских пользователей не привыкли идентифицировать и проверять происхождение контента, а технические инструменты для обнаружения продуктов ИИ ограничены.

Чёткое определение обязательств по прозрачности и маркировке — это не только технологическое и этическое требование, но и правовая основа для защиты как пользователей, так и разработчиков продуктов ИИ. Для выполнения этого требования Министерство науки и технологий разрабатывает Закон об искусственном интеллекте, статья 12 которого регулирует «Прозрачность, маркировку и подотчётность».

Соответственно, маркировка — это применение технических мер для создания чёткого, легко распознаваемого и машиночитаемого уведомления о том, что контент (текст, изображение, аудио, видео) был создан или существенно изменён системами искусственного интеллекта. Уведомление должно быть сделано при широкой публикации контента.

Данное положение устанавливает обязательные обязательства по маркировке продуктов, созданных или отредактированных с помощью ИИ, с целью сделать цифровое пространство прозрачным, защитить потребителей и потребовать от поставщиков и установщиков нести совместную ответственность в случае, если отсутствие маркировки приводит к путанице или ущербу.

В отношении контента, имитирующего реальных людей, объекты, места или события, законопроект предусматривает, что провайдеры должны применять меры, позволяющие однозначно определить, что контент создан с помощью искусственного интеллекта, а также обеспечить возможность аутентификации и отслеживания его происхождения. Это считается важным шагом в управлении технологиями искусственного интеллекта и соответствует международным тенденциям, в соответствии с которыми Европейский союз (ЕС), США, Япония и Южная Корея приняли аналогичные правила.

Несмотря на согласие с необходимостью маркировки, многие эксперты и представители бизнеса считают, что положения о маркировке в законопроекте должны быть более конкретными. Юрист Хоанг Ле Куан из юридической фирмы Vietnam Commercial Legal Limited Liability (Lexcomm Vietnam LLC) считает необходимым уточнить, могут ли поставщики ИИ самостоятельно выбирать форму маркировки или должны следовать указаниям правительства.

Если существуют руководящие принципы, они должны быть четкими и обеспечивать соответствие международным стандартам, избегая при этом совершенно иных требований Вьетнама или создания новых обязательств, особенно для многонациональных поставщиков, что влияет на конкурентоспособность Вьетнама в области применения и разработки ИИ по сравнению с другими рынками, такими как Европейский союз (ЕС), Южная Корея или Соединенные Штаты.

Некоторые мнения подчёркивают необходимость чёткого определения области и уровня применения, включая необходимость маркировки всего контента с элементами ИИ или только продуктов, полностью созданных с помощью ИИ или при его значительном участии. Г-н Тран Ван Три, директор Vietnam Law Media Joint Stock Company (LuatVietnam.vn), отметил, что если в контенте лишь небольшая часть использует ИИ, необходимо ли его маркировать? Необходимо чётко указать, был ли он создан с помощью ИИ или полностью создан ИИ.

В индустрии развлечений некоторые компании хотят иметь гибкий механизм, освобождающий продукты с ИИ от жёстких требований маркировки, и вместо этого используют предупреждения или прозрачное самораскрытие информации в зависимости от уровня использования. ИИ широко используется для улучшения звука, изображений и эффектов. Если бы маркировка была обязательной для всех, расходы и процедуры увеличились бы, что затруднило бы творческий подход.

Глава Министерства науки и технологий заявил, что законопроект об искусственном интеллекте направлен на поиск разумного баланса между управлением и стимулированием развития, обеспечение прозрачности, осуществимости и приближение к международным стандартам. Цель маркировки — чётко обозначить границу между контентом, созданным человеком, и контентом, созданным машинами, избегая крайностей — слабого управления или чрезмерного ужесточения, — чтобы технологии могли развиваться в прозрачных и ответственных рамках.

ХА ЛИНЬ

Источник: https://nhandan.vn/minh-bach-hoa-san-pham-tri-tue-nhan-tao-post920112.html