Багато викликів для ШІ в нову еру.

Оскільки штучний інтелект стає доступнішим, а все більше людей і компаній використовують його за допомогою спільних інструментів, хакери можуть одночасно автоматизувати атаки, пришвидшувати операційні процеси та розгортати складніші кампанії для досягнення своїх незаконних цілей.

Касперський розкриває типи кібератак за допомогою штучного інтелекту.

Нижче наведено деякі методи атак, які спостерігав Касперський: ChatGPT може використовуватися для розробки шкідливого програмного забезпечення та автоматичного розгортання атак на кількох жертв; програми штучного інтелекту проникають у дані користувачів на смартфонах, і завдяки аналізу конфіденційних даних зловмисники можуть повністю «вкрасти» повідомлення, паролі та банківські коди у жертв; алгоритми ройового інтелекту допомагають комп’ютерним мережам автоматично (bonet) відновлювати шкідливі мережі, які були усунені за допомогою рішень безпеки.

Дослідження Касперського щодо використання штучного інтелекту для злому паролів показує, що більшість паролів шифруються за допомогою алгоритмів хешування, таких як MD5 та SHA. Тому проста операція може перетворити пароль на рядок зашифрованого тексту, але зворотний процес є значним викликом.

За допомогою штучного інтелекту зловмисники можуть використовувати шахрайський контент, включаючи текст, зображення, аудіо та відео , для здійснення нетехнічних атак. Великі мовні моделі, такі як ChatGPT-4o, використовуються для створення складних фішингових сценаріїв та повідомлень. Долаючи мовні бар'єри, штучний інтелект може писати, здавалося б, автентичні електронні листи, виключно на основі інформації із соціальних мереж. Він навіть може імітувати стиль письма жертви, що ще більше ускладнює виявлення шахрайства.

Тим часом, технологія Deepfake стала «проблемою» в кібербезпеці, попри те, що раніше вважалася продуктом наукових досліджень. Видання себе за знаменитостей заради фінансової вигоди є найпоширенішим методом; крім того, шахраї використовують Deepfake для крадіжки облікових записів та здійснення виданих ними дзвінків друзям і родичам жертв з метою вимагання грошей.

Окрім використання технології штучного інтелекту для незаконної діяльності, зловмисники також можуть атакувати алгоритми штучного інтелекту. Це включає атаки «швидкого впровадження», коли шкідливі команди впроваджуються у великі мовні моделі, навіть порушуючи раніше обмежені правила; та атаки типу «змагання», коли до зображень або аудіо додаються приховані інформаційні поля, щоб вплинути на можливості класифікації зображень систем машинного навчання.

Штучний інтелект дедалі більше інтегрується в усі аспекти людського життя, від Apple Intelligence та Google Gemini до Microsoft Copilot. Тому усунення вразливостей ШІ має бути головним пріоритетом. Kaspersky використовує технології ШІ для захисту своїх клієнтів та партнерів протягом багатьох років, постійно шукаючи вразливості в системах ШІ для підвищення їхньої стійкості та активно досліджуючи методи кібератак, щоб забезпечити надійний захист від атак на основі ШІ.

КІМ ТХАН

Джерело: https://www.sggp.org.vn/nhieu-thach-thuc-cua-ai-trong-thoi-dai-moi-post754401.html