Дипфейк в настоящее время представляет собой серьезную проблему, поскольку число мошенничеств с использованием технологий продолжает расти.
После исследования форумов Darknet, где часто орудуют киберпреступники, эксперты по безопасности обнаружили, что преступников, использующих Deepfake для мошенничества, так много, что спрос значительно превышает предложение программного обеспечения Deepfake, которое в настоящее время представлено на рынке.
Эксперты «Лаборатории Касперского» прогнозируют, что, поскольку спрос превышает предложение, количество мошеннических схем Deepfake будет расти, при этом их формы будут становиться все более разнообразными и изощренными: от предоставления высококачественного видео с имитацией другого человека до использования изображений знаменитостей в поддельных прямых трансляциях в социальных сетях с обещанием выплаты в два раза превышающей сумму, отправленную жертвой.
По данным информационно-справочной системы Regula, 37% предприятий по всему миру сталкивались с мошенничеством с использованием Deepfake-голоса, а 29% стали жертвами Deepfake-видео.
Эта технология стала угрозой кибербезопасности во Вьетнаме, где киберпреступники часто используют поддельные видеозвонки, чтобы выдавать себя за других людей и занимать деньги у их родственников и друзей.
Поддельный видеозвонок может длиться всего минуту, из-за чего жертве сложно отличить реальный звонок от поддельного.
Дипфейк постепенно становится «кошмаром» в изощренных интернет-мошенничествах.
« Дипфейки становятся кошмаром для женщин и общества. Киберпреступники используют искусственный интеллект (ИИ) для вставки лиц жертв в порнографические фотографии и видео, а также в пропагандистских кампаниях.
«Эти формы направлены на манипулирование общественным мнением путем распространения ложной информации и даже наносят ущерб репутации организаций или отдельных лиц», — заявила г-жа Во Дуонг Ту Дьем, региональный директор «Лаборатории Касперского» во Вьетнаме.
В то время как преступники используют искусственный интеллект в вредоносных целях, частные лица и компании по-прежнему могут использовать искусственный интеллект для выявления дипфейков, снижая вероятность успеха мошенничества.
Соответственно, пользователи получат ряд полезных решений для защиты от мошенничества, таких как использование программного обеспечения для обнаружения контента, созданного искусственным интеллектом (использующего передовые алгоритмы для анализа и определения уровня редактирования изображений/видео/аудио).
Для видео с дипфейком существуют инструменты, способные распознавать несоответствие движений рта и речи. Некоторые программы даже достаточно эффективны, чтобы выявлять аномальный кровоток под кожей, анализируя разрешение видео, поскольку при работе сердца вены человека меняют цвет.
Кроме того, водяной знак служит идентификационным знаком на изображениях, видео и т. д., помогая авторам защищать авторские права на продукты ИИ. Эта функция может стать оружием против дипфейков, поскольку позволяет отследить происхождение платформы, создающей искусственный интеллект. Пользователи с определённым уровнем технических знаний могут найти способ отследить происхождение контента и сравнить, как исходные данные были отредактированы «руками» ИИ.
В настоящее время некоторые развивающиеся технологии используют криптографические алгоритмы для вставки хеш-значений в видео через заданные интервалы времени. Если видео было отредактировано, хеш-значение изменится, и пользователи смогут проверить, был ли контент подменён или нет.
Ранее уже выпускались обучающие материалы о поиске аномалий в видео, таких как отклонения в цвете, неестественные движения мышц, движения глаз и т. д. Однако ИИ становится умнее, поэтому эти значения не всегда дают правильные результаты.
Процесс проверки достоверности видео больше не основывается на визуальном осмотре, а требует использования технологических инструментов, созданных с целью обнаружения и предотвращения поддельного контента.
Кхань Линь
Источник
Комментарий (0)