Діпфейки поширюються, і перегони штучного інтелекту боротися з вогнем вогнем розпалюються.

Діпфейки стають дедалі складнішими, змушуючи стартапи у сфері безпеки використовувати штучний інтелект для їх виявлення та запобігання, що спричиняє запеклу технологічну гонку.

Боротьба з Deepfake: ШІ стає одночасно «зброєю» та «щитом»

В епоху штучного інтелекту протистояння між кіберзлочинцями та охоронними компаніями — це вже не просто технологічна гонка, а спроба повернути довіру, підірвану дедалі складнішим фальшивим контентом.

Коли те, що ви бачите та чуєте, більше не є достовірним.

Всього кілька років тому користувачі могли розпізнавати діпфейки за досить «грубими» ознаками, такими як неприродні вирази обличчя, невідповідні рухи рота або незвичайні рухи очей. Однак ці методи швидко застаріли з розвитком технології штучного інтелекту.

Наразі штучний інтелект може відтворювати зображення та голоси з дуже високою точністю, навіть імітуючи ледь помітні вібрації людського голосу. В експерименті журналістки Габі Дель Валле, використовуючи лише 9 секунд аудіо, зібраного із соціальних мереж, система штучного інтелекту створила фальшиву версію, яка могла майже переконливо підтримувати розмову.

У повсякденному житті інтуїція все ще може допомогти людям виявляти аномалії. Однак на робочому місці або під час фінансових операцій, де інформація обробляється швидко, а час має вирішальне значення, ці підозрілі ознаки легко не помітити, що збільшує ризик шахрайства.

Діпфейки більше не обмежуються розважальним онлайн-контентом; кіберзлочинці тепер використовують їх для організованих шахрайств. Вони можуть збирати загальнодоступні дані в соціальних мережах, щоб створити «голосовий банк» співробітників компанії, а потім використовувати штучний інтелект, щоб видавати себе за керівників або колег для здійснення дзвінків із запитом на грошові перекази.

Збитки від цих інцидентів є значними. Кожна шахрайська схема з використанням діпфейків може коштувати бізнесу сотень тисяч доларів. Тривожно, що такі сценарії часто використовують почуття терміновості жертви – наприклад, видаючи себе за близьку людину, щоб попросити про допомогу – що змушує їх дуже швидко втрачати пильність.

«Боротьба з вогнем вогнем» за допомогою штучного інтелекту

Щоб боротися з цим, багато стартапів у сфері безпеки обирають зворотний підхід: використовують сам штучний інтелект для виявлення діпфейків.

Один поширений підхід — це модель «вчитель-учень» у машинному навчанні. Система навчається з використанням великих обсягів реальних та підроблених даних, щоб навчитися ідентифікувати технічні сліди, які людина не може побачити неозброєним оком.

Такий підхід створює безперервний цикл: оскільки діпфейки стають все більш складними, системи виявлення необхідно постійно оновлювати, щоб не відставати. Тому гонка, здається, не має кінця.

Однак, проблема полягає в тому, що вартість створення фейкового контенту стає дедалі дешевшою завдяки широкому використанню моделей штучного інтелекту, тоді як виявлення та захист потребують значно більше ресурсів.

Один із нових підходів полягає у встановленні стандартів для перевірки походження контенту, що допомагає користувачам знати, звідки походять дані та чи були вони відредаговані. Однак це рішення все ще стикається з ризиком підробки, якщо немає суворої системи перевірки.

Прогнозується, що у довгостроковій перспективі інструменти виявлення дипфейків стануть стандартним рівнем захисту, інтегрованим безпосередньо в браузери, цифрові платформи або інтернет-інфраструктуру – подібно до ролі антивірусного програмного забезпечення сьогодні.

Повертаючись до теми

СХІДНЕ МОРЕ

Джерело: https://tuoitre.vn/deepfake-lan-rong-cuoc-dua-ai-lay-doc-tri-doc-nong-len-2026042808084971.htm