Хакери використовують штучний інтелект для атаки на Gemini від Google

Згідно з BGR , у новому дослідницькому звіті щойно опубліковано тривожну техніку під назвою «Fun-Tuning», яка використовує сам ШІ (штучний інтелект) для автоматичного створення надзвичайно ефективних атак швидкого впровадження, спрямованих на інші передові моделі ШІ, включаючи Gemini від Google.

Цей метод робить «злом» ШІ швидшим, дешевшим та простішим, ніж будь-коли, що знаменує собою нову ескалацію кібервійни, пов’язаної зі ШІ.

Небезпека, коли лиходії використовують ШІ для його зламу

Промовисте впровадження (immediate injection) – це техніка, за якої зловмисник підтасовує шкідливі інструкції у вхідні дані моделі штучного інтелекту (наприклад, через коментарі у вихідному коді, прихований текст в Інтернеті). Мета полягає в тому, щоб «обдурити» штучний інтелект, змусивши його обходити попередньо запрограмовані правила безпеки, що призводить до серйозних наслідків, таких як витік конфіденційних даних, надання неправдивої інформації або виконання інших небезпечних дій.

Хакери використовують штучний інтелект для атаки на штучний інтелект

ФОТО: СКРІНШОТ З LINKEDIN

Раніше для успішного виконання цих атак, особливо на «закритих» моделях, таких як Gemini або GPT-4, часто вимагалося багато складного та трудомісткого ручного тестування.

Але Fun-Tuning повністю змінив правила гри. Метод, розроблений командою дослідників з кількох університетів, вміло використовує дуже вдосконалений інтерфейс прикладного програмування (API), який Google надає безкоштовно користувачам Gemini.

Аналізуючи тонкі реакції моделі Gemini під час налаштування (наприклад, як вона реагує на помилки в даних), Fun-Tuning може автоматично визначати найефективніші «префікси» та «суфікси» для маскування шкідливої ​​команди. Це значно збільшує ймовірність того, що ШІ виконає зловмисні наміри зловмисника.

Результати тестів показують, що Fun-Tuning досягає рівня успішності до 82% на деяких версіях Gemini, що перевищує менш ніж 30% традиційних методів атаки.

Що робить Fun-Tuning ще небезпечнішим, так це його низька вартість. Оскільки API налаштування Google є вільнодоступним, обчислювальні витрати на створення ефективної атаки можуть становити всього 10 доларів. Крім того, дослідники виявили, що атаку, розроблену для однієї версії Gemini, можна легко успішно застосувати до інших версій, що відкриває можливість широкомасштабних атак.

Google підтвердив, що знає про загрозу, яку становить Fun-Tuning, але поки що не прокоментував, чи змінить це принцип роботи API налаштування. Команда також вказує на захисну дилему: видалення інформації, яку використовує Fun-Tuning, з процесу налаштування зробить API менш корисним для законних розробників. І навпаки, якщо залишити його як є, це продовжуватиме бути трампліном для зловмисників.

Поява Fun-Tuning є чітким попередженням про те, що протистояння в кіберпросторі вступило в нову, складнішу фазу. Штучний інтелект тепер є не лише мішенню, а й інструментом і зброєю в руках зловмисників.

Джерело: https://thanhnien.vn/hacker-dung-ai-de-tan-cong-gemini-cua-google-18525033010473121.htm