Як розпізнати шахрайство, яке використовує Deepfake

Діпфейк зараз викликає серйозне занепокоєння, оскільки кількість шахрайства на основі технологій продовжує зростати.

Після дослідження форумів даркнету, де часто діють кіберзлочинці, експерти з безпеки виявили, що Deepfake для шахрайства використовують так багато злочинців, що попит на нього значно перевищує пропозицію програмного забезпечення Deepfake, яке зараз є на ринку.

Оскільки попит перевищує пропозицію, експерти Касперського прогнозують, що шахрайство Deepfake зростатиме, проявляючи різноманітніші та витонченіші форми: від пропозиції високоякісного відео , що видає себе за іншу особу, до використання зображень знаменитостей у фальшивих прямих трансляціях у соціальних мережах з обіцянкою заплатити вдвічі більше, ніж надіслала жертва.

Згідно з інформаційно-довідковою системою Regula, 37% компаній у всьому світі стикалися з голосовим шахрайством Deepfake, а 29% стали жертвами відео Deepfake.

Ця технологія стала загрозою кібербезпеці у В'єтнамі, де кіберзлочинці часто використовують фальшиві відеодзвінки, щоб видавати себе за інших людей, щоб позичити гроші у їхніх родичів та друзів.

Відеодзвінок Deepfake може тривати лише хвилину, що ускладнює для жертв розрізнення справжнього та фальшивого.

Діпфейк поступово перетворюється на «нічний кошмар» у витончених онлайн-шахрайствах.

« Діпфейк став кошмаром для жінок і суспільства. Кіберзлочинці використовують штучний інтелект (ШІ), щоб вставляти обличчя жертв у порнографічні фотографії та відео, а також у пропагандистські кампанії».

«Ці форми спрямовані на маніпулювання громадською думкою шляхом поширення неправдивої інформації, навіть завдаючи шкоди репутації організацій чи окремих осіб», – сказала пані Во Дуонг Ту Дьєм, регіональний директор Kaspersky у В’єтнамі.

Хоча злочинці зловживають штучним інтелектом у зловмисних цілях, окремі особи та компанії все ще можуть використовувати сам штучний інтелект для виявлення діпфейків, зменшуючи ймовірність успіху шахрайства.

Відповідно, користувачі матимуть деякі корисні рішення для захисту від шахрайства, такі як використання програмного забезпечення для виявлення контенту, згенерованого штучним інтелектом (використання передових алгоритмів для аналізу та визначення рівня редагування зображень/відео/звуків).

Для відео Deepfake існують інструменти, які можуть виявляти невідповідні рухи рота та мовлення. Деякі програми навіть достатньо потужні, щоб виявляти аномальний кровотік під шкірою, аналізуючи роздільну здатність відео, оскільки людські вени змінюють колір, коли серце перекачує кров.

Крім того, існує водяний знак, який служить ідентифікаційним знаком на зображеннях, відео тощо, щоб допомогти авторам захистити авторські права на продукти штучного інтелекту. Ця функція може стати зброєю проти Deepfake, оскільки допомагає відстежити походження платформи, яка створює штучний інтелект. Користувачі з певним рівнем технологічних знань можуть знайти спосіб відстежити походження контенту, щоб порівняти, як оригінальні дані були відредаговані «руками» штучного інтелекту.

Наразі деякі новітні технології використовують алгоритми шифрування для вставки хеш-значень у відео через задані інтервали часу. Якщо відео було відредаговано, хеш-значення зміниться, і звідти користувачі можуть перевірити, чи був контент підроблений.

У минулому вже було кілька навчальних посібників про пошук аномалій у відео, наприклад, відхилення кольорів, неприродні рухи м'язів, рухи очей... Однак, штучний інтелект стає розумнішим, тому ці значення не завжди дають правильні результати.

Процес перевірки достовірності відео більше не ґрунтується на неозброєному оці, а вимагає технологічних інструментів, створених з метою запобігання та виявлення фальшивого контенту.

Кхань Лінь

Джерело