Mnoho výzev umělé inteligence v nové éře

S tím, jak se umělá inteligence stává dostupnější a stále více jednotlivců a firem ji využívá prostřednictvím běžných nástrojů… mohou hackeři také automatizovat útoky, zrychlit operace a nasazovat složitější kampaně k dosažení svých nelegálních cílů.

Kaspersky odhaluje typy kybernetických útoků využívajících umělou inteligenci

Zde jsou typy útoků, které společnost Kaspersky pozorovala: ChatGPT lze použít k vývoji malwaru a automatickému nasazení útoků na více obětí; programy umělé inteligence infiltrují data uživatelů v chytrých telefonech a prostřednictvím procesu analýzy citlivých dat dokáží kompletně „číst“ zprávy, hesla a bankovní kódy obětí; algoritmy Swarm intelligence pomáhají automatizovaným počítačovým sítím (bonetům) obnovit škodlivé sítě, které byly eliminovány bezpečnostními řešeními.

Výzkum společnosti Kaspersky o využití umělé inteligence k prolomení hesel ukazuje, že většina hesel je šifrována pomocí hašovacích algoritmů, jako jsou MD5 a SHA. Jednoduchá operace může heslo proměnit v proud šifrovaného textu, ale obrácení tohoto procesu je velkou výzvou.

Prostřednictvím umělé inteligence mohou útočníci zneužívat podvodný obsah, včetně textu, obrázků, zvuku a videa , k zahájení útoků sociálního inženýrství. Rozsáhlé jazykové modely, jako je ChatGPT-4o, se používají k vytváření vysoce sofistikovaných phishingových skriptů a zpráv. Díky překonání jazykových bariér dokáže umělá inteligence napsat skutečný e-mail pouze na základě informací na sociálních sítích. Umělá inteligence dokáže dokonce napodobit styl psaní oběti. To ještě více ztěžuje odhalování phishingového chování.

Zároveň Deepfake existuje jako „problém“ v kybernetické bezpečnosti, ačkoli byl dříve považován za produkt vědeckého výzkumu. Nejběžnější metodou je vydávání se za celebrity za účelem finančního zisku. Podvodníci dále používají Deepfake k krádeži účtů, falešným hovorům s přáteli a příbuznými obětí za účelem přivlastnění si majetku.

Kromě zneužívání technologie umělé inteligence k nelegálním aktivitám mohou zločinci také útočit na algoritmy umělé inteligence. Například útoky typu „Prompt Injection“ zadáváním škodlivých příkazů do rozsáhlých jazykových modelů, a to i v rozporu s dříve omezenými pravidly; útoky typu adversarial přidáváním skrytých informačních polí do obrázků nebo zvuku, aby ovlivnili schopnost systému strojového učení klasifikovat obrazy.

Umělá inteligence se postupně integruje do všech aspektů lidského života, od Apple Intelligence, Google Gemini až po Microsoft Copilot. Řešení zranitelností umělé inteligence by proto mělo být nejvyšší prioritou. Společnost Kaspersky již mnoho let využívá technologii umělé inteligence k ochraně zákazníků a partnerů, neustále vyhledává zranitelnosti v systémech umělé inteligence, zvyšuje odolnost systémů a aktivně zkoumá techniky kybernetických útoků, aby poskytla spolehlivou ochranu před útoky umělé inteligence.

KIM THANH

Zdroj: https://www.sggp.org.vn/nhieu-thach-thuc-cua-ai-trong-thoi-dai-moi-post754401.html