Дипфейк процветает — никто не застрахован от уловок искусственного интеллекта, имитирующих личность

Имитация голоса, имитация лица, синхронизация губ... ИИ теперь используется не только для работы и развлечений, но и становится опасным инструментом коммерческого мошенничества. ИИ использует изображения знаменитостей, врачей и даже монахов для продажи товаров в социальных сетях. Реальные люди ничего не знают, и покупатели теряют доверие.

Быть «заимствованным лицом» для продажи товаров

«Неважно, каково состояние вашего колена, просто примените наш метод. Мы гарантируем значительное улучшение в течение 7 дней. Если же он окажется совершенно неэффективным, я готов компенсировать 1 миллиард донгов в качестве искренних извинений. Если вы действительно не увидите никакого эффекта, мы обязуемся вернуть вам 100% стоимости, и я сам готов компенсировать 1 миллиард донгов. Не каждый решится на такое», — так пишет известная певица, рекламируя массажный крем для снятия боли в суставах. Стоит отметить, что эта реклама полностью создана искусственным интеллектом.

Рекламный ролик, представленный выше, был использован аккаунтом TikTok под названием LShop, который использовал изображение, голос и язык тела певицы в реалистичной манере, которую невозможно заметить без внимательного наблюдения. У этого аккаунта почти 9000 подписчиков, 67000 лайков, а каждый ролик набрал тысячи просмотров. Только одно «рекламное» видео , заимствовавшее изображение певицы, собрало более 1000 лайков и почти 100 комментариев с предложением купить.

С этим же массажным кремом каналы продаж «выпустили» ещё одну фальшивую версию, на этот раз с врачом. В ролике персонаж твёрдо заявляет: «Я — самый авторитетный врач-ортопед в Ханое и гарантирую, что даже самый серьёзный разрыв мениска можно полностью вылечить всего за 3 дня. Этот гель сертифицирован самой авторитетной ортопедической ассоциацией Вьетнама». Эта фраза была воссоздана искусственным интеллектом для ряда других «врачей», что позволяло зрителям легко принять её за настоящую.

Ролик собрал почти 4000 лайков и более 120 комментариев, но когда мы написали ему, чтобы попробовать сделать заказ, аккаунт не ответил и не взаимодействовал со зрителями в комментариях, просто оставив товар в корзине для прямой покупки. Примечательно, что товар был произведен в Китае, а информация о нём была крайне расплывчатой.

Каналы продаж выдавали себя за певцов, знаменитостей и врачей, создавая видеоролики с использованием искусственного интеллекта для продажи товаров, связанных со здоровьем.

Но и на этом дипфейк-приём распространился и на духовные темы. Аккаунт в TikTok под названием Phat Phap NM не только репостил лекции Мастера TPH, но и использовал искусственный интеллект для создания изображений «мастера», продающего такие товары, как листья бодхи и браслеты из агарового дерева.

Когда зрители оставляли комментарии с просьбой о покупке, канал отвечал: «Если что-то не так, как ожидалось, зайдите в раздел «Выставки» в моём аккаунте и выберите то, что вам нужно, не жалейте мелочи и не обращайте внимания на более крупные». Сразу после этого самому монаху пришлось высказаться, чтобы уточнить, что он никогда не рекламировал подобные товары и не имел с ними ничего общего.

Граница между творчеством и нарушением прав

Эксперт по кибербезопасности Нго Минь Хьеу (Hieu PC) из Национального центра мониторинга кибербезопасности (NCSC) заявил, что фейковые рекламные ролики, распространяемые в социальных сетях, в основном создаются с помощью программного обеспечения Deepfake. Такое ПО встречается нередко, многие сервисы предлагают недорогие пакеты с очень простым управлением. Несмотря на положительные примеры применения в сфере создания цифрового контента и медиапроизводства, по словам г-на Хьеу, проблема заключается в том, что некоторые субъекты используют эту технологию в негативных целях, таких как мошенничество, подделка личных данных, распространение фейковых новостей или клевета с помощью видеороликов, которые выглядят как настоящие.

Г-н Хьеу также привел некоторые признаки, помогающие распознать фейковые ролики, такие как несколько напряженная мимика, формы рта и движения, не соответствующие диалогу... Г-н Хьеу предупредил, что были и более серьезные ситуации, когда ИИ использовался для вставки лиц жертв в деликатные видеоролики с целью запугивания, принуждения и наживы.

По словам адвоката Чан Дык Фыонга из Коллегии адвокатов города Хошимин, использование искусственного интеллекта для создания изображений знаменитостей (или конкретных лиц) без их согласия является нарушением личных прав, в частности права на изображение, как это предусмотрено статьей 32 Гражданского кодекса 2015 года. Закон гласит: «Лица имеют право на собственное изображение. Использование изображения лица должно быть согласовано с этим лицом. Использование изображения в коммерческих целях должно осуществляться с выплатой компенсации лицу, изображение которого используется, если сторонами не согласовано иное».

Таким образом, использование владельцем аккаунта в социальной сети изображений, воссозданных с помощью искусственного интеллекта из реальных фотографий, старых видеозаписей и т.п., в рекламных или коммерческих целях без разрешения является нарушением закона. Если использование изображения нарушает положения настоящей статьи, лицо, владеющее изображением, вправе обратиться в суд с требованием об изъятии, уничтожении изображения, прекращении его использования, возмещении ущерба и применении иных мер в соответствии с законодательством.

КАМ НУОНГ

Источник: https://www.sggp.org.vn/deepfake-tran-lan-khong-ai-an-toan-truoc-chieu-tro-gia-danh-bang-ai-post803313.html