Небезпека володіння злочинцями «темним штучним інтелектом»

Інструменти штучного інтелекту, спеціально навчені для кібератак, стають дедалі ефективнішими, що ускладнює протидію їм.

Штучний інтелект стає потужним помічником кіберзлочинців. Фото: Cato Networks .

Не лише звичайні користувачі, а й кіберзлочинці все частіше використовують штучний інтелект для створення складніших атак, ніж будь-коли. Менш ніж за 2 роки інструменти штучного інтелекту для підтримки хакерів швидко розвинулися з точки зору функціональності та ефективності.

Адріан Хіа, директор Kaspersky Asia and Japan (APJ), заявив, що темний штучний інтелект відіграє величезну роль у швидкому зростанні шкідливого програмного забезпечення. Дані Kaspersky показують, що щодня створюється майже півмільйона одиниць шкідливого програмного забезпечення.

«Темний ШІ схожий на даркнет – темну сторону мережі, якою ми користуємося щодня», – сказав пан Хіа.

Сергій Ложкін, керівник Глобальної дослідницької та аналітичної групи Касперського (GReAT) для Азіатсько -Тихоокеанського регіону (APAC) та Близького Сходу, Африки, Туреччини (META), зазначив, що темний ШІ повністю відрізняється від звичайних чат-ботів на базі ШІ, таких як ChatGPT або Gemini.

Штучний інтелект, з яким знайомі користувачі, створений для допомоги користувачам та виконання законних завдань, і навіть якщо їм накажуть створювати шкідливе програмне забезпечення або здійснювати незаконну діяльність, користувачам буде важко досягти своїх цілей.

Тим часом, «темний ШІ» — це насправді LLM або чат-боти, створені виключно для здійснення шкідливої ​​діяльності в кіберпросторі, — сказав пан Ложкін. Ці ШІ навчені створювати шкідливе програмне забезпечення, фішинговий контент або навіть повну систему, яку кіберзлочинці можуть використовувати для шахрайства.

Прихована система штучного інтелекту лише для авторитетних хакерів

Ці системи, які пан Ложкін називає Black Hat GPT або «чорним капелюхом GPT», існують з 2023 року. Представники Касперського заявили, що на той час штучний інтелект був дуже простим, створював дуже поганий код і його можна було виявити миттєво.

Однак останнім часом системи чорних GPT стали більш досконалими, здатними виконувати багато функцій, від створення шкідливого програмного забезпечення та шахрайського контенту до імітації голосів та відео . Деякі назви включають WormGPT, DarkBard або FraudGPT.

Сергій Ложкін, дослідник Kaspersky, попереджає, що якість темного штучного інтелекту стає все кращою. Фото: Мінх Кхой.

Одним із найтривожніших відкриттів Касперського стало існування приватних систем темного штучного інтелекту, доступних лише авторитетним кіберзлочинцям. Щоб отримати доступ до цих приватних систем штучного інтелекту, хакери повинні створити собі репутацію на підпільних форумах.

«Ви можете отримати доступ до таких систем, лише якщо вам довіряють. Щоб отримати доступ до цих помічників, вам потрібно створити репутацію на підпільних форумах», – сказав експерт Касперського.

Ложкін сказав, що у Касперського є підрозділ «Цифрового сліду», який роками проникає на підпільні форуми та моніторить і відстежує активність. Щойно компанія отримує доступ до нових систем, вона продовжує витрачати багато часу на розуміння того, як використовується темний ШІ, його функцій та ефективності.

Темний ШІ стає сильнішим

Темний ШІ стає ефективним інструментом для досвідчених хакерів. Для тих, хто має лише базові знання програмування, звернення до генератора програм-вимагачів може створити лише програмне забезпечення, яке легко розпізнає антивірус. Однак для досвідчених хакерів темний ШІ може підвищити продуктивність кодування, створюючи нове шкідливе програмне забезпечення.

«Ця якість дуже залежить від кожної конкретної платформи чи темного ШІ. Деякі генерують код дуже низької якості, але є й інструменти, які можуть досягти 7-8 балів з 10», – поділився пан Ложкін з Tri Thuc-Znews .

Одним із прикладів є можливість створювати поліморфний код. Раніше, коли антивірус виявляв фрагмент шкідливого коду, хакерам доводилося витрачати багато часу на його зміну. ​​Тепер темний штучний інтелект може робити це «майже миттєво», створюючи версію, яку важче виявити.

Крім того, темні LLM-мастеринги долають мовний бар'єр у фішингових атаках. Експерти Kaspersky кажуть, що нове покоління фішингових електронних листів важче виявити через майже ідеальну англійську мову, яка навіть може «виглядати точно як голос генерального директора».

Деякі «все-в-одному» системи темного штучного інтелекту можуть генерувати код, інтегрувати голосову імітацію та надсилати фішингові електронні листи. Фото: Касперський.

Здатність створювати фальшиві голоси та зображення спеціалізованої системи Dark AI також стає дедалі досконалішою. ​​Пан Ложкін навіть сказав, що він «більше не вірить у відеодзвінки» завдяки своєму досвіду роботи працівником служби безпеки.

Однак, експерти Kaspersky також зазначили, що користувачі все ще можуть розпізнати шахрайський дзвінок за особистою поведінкою, звичками мовлення та деякими унікальними характеристиками.

«Ці характеристики важко підробити, тому спробуйте зв’язатися безпосередньо з особою, яку, на вашу думку, підробляють», – сказав дослідник з безпеки виданню Tri Thuc – Znews .

"Гонка озброєнь зі штучним інтелектом"

Розвиток темного штучного інтелекту (Темного ШІ) спричинив технологічну гонку озброєнь між кіберзлочинцями та експертами з кібербезпеки. «Я особисто використовую ШІ зараз для всього – досліджень, програмування, зворотного інжинірингу. Моя продуктивність цього року в 10-20 разів вища, ніж раніше», – зізнається Ложкін.

«Якщо ви не використовуватимете штучний інтелект для створення захисного механізму, поки погані хлопці використовуватимуть штучний інтелект для атаки, ви програєте. Це початок гонки між хорошими хлопцями та поганими хлопцями, які використовують штучний інтелект», – попередив він.

Адріан Хіа, директор Kaspersky APJ, заявив, що темний штучний інтелект допомагає швидше створювати шкідливі програми. Фото: Мінх Кхой.

Google повідомив про блокування понад 20 шкідливих дій від державних груп, які намагалися використовувати ChatGPT для створення шкідливого програмного забезпечення та планування атак. У 2024 році вони виявили 40 урядових APT-груп за допомогою моделей штучного інтелекту.

Особливе занепокоєння викликають повноцінні фреймворки, такі як Xanthorox, який пропонує «повний пакет» послуг за 200 доларів на місяць, інтегруючи генерацію голосу, фішингові електронні листи та інші інструменти атаки в простий у використанні інтерфейс.

Експерти Касперського попереджають, що темний штучний інтелект все ще перебуває на початковій стадії розвитку. Адріан Хіа прогнозує, що в найближчі кілька років вартість його використання буде набагато нижчою, і поки що невідомо, наскільки далеко він розвинувся.

«Але я абсолютно впевнений, що ми будемо готові, бо ми робимо те саме, але з протилежного боку», – прокоментував пан Ложкін.

Джерело: https://znews.vn/moi-nguy-khi-toi-pham-so-huu-ai-den-post1574400.html