Podvody s umělou inteligencí, vážná hrozba pro kybernetickou bezpečnost

Phishing je již dlouho oblíbenou zbraní hackerů v kybernetickém světě . Slouží jako předehra k různým útokům a umožňuje krádež přihlašovacích údajů, proniknutí do infrastruktury a narušení provozu.

Vznik umělé inteligence (AI) s sebou přináší jak potenciál, tak i výzvy, zejména v oblasti kybernetické bezpečnosti.

Vzestup předtrénovaných modelů strojového učení (GPT) vytvořil novou hrozbu pro oblast kybernetické bezpečnosti. GPT je rozsáhlý jazykový model a přední framework pro generativní umělou inteligenci.

Schopnost generovat přesvědčivý umělý text ve velkém měřítku vyvolala obavy mezi bezpečnostními experty. To by mohlo mít obrovský dopad na podvody založené na umělé inteligenci, e-mailové podvody, včetně kompromitace obchodních e-mailů (BEC).

Phishing je založen na klamání koncového uživatele, aby uvěřil, že e-mail pochází od legitimní entity. GPT může v tomto procesu pomoci vytvořením odpovědí, které odpovídají stylu a jazyku, a příjemce tak věří, že komunikuje s důvěryhodným kolegou nebo jednotlivcem. To stále více ztěžuje rozlišení mezi textem generovaným strojem a textem generovaným člověkem ve zprávách.

I když jsou k dispozici nástroje pro identifikaci strojově generovaného textu, musíme být připraveni na scénář, kdy se GPT vyvinou tak, aby tyto ochrany obcházely. Hackeři by navíc mohli zneužít modely podobné GPT k vytváření obrázků, videí nebo cílení na konkrétní odvětví, což by dále zvyšovalo kybernetická rizika.

Aby se tyto hrozby zmírnily, musí jednotlivci i organizace rychle nasadit řešení ochrany e-mailů založená na umělé inteligenci. Umělá inteligence dokáže účinně čelit moderním taktikám kybernetické kriminality a identifikovat podezřelé aktivity.

Vícefaktorové ověřování (MFA) a biometrické metody identifikace mohou zvýšit zabezpečení a poskytnout další vrstvu ochrany před vniknutím hackerů.

Kromě technologických opatření jsou pro zlepšení lidského faktoru v boji proti phishingovým útokům důležité pravidelné školicí a osvětové programy. Lidské zkušenosti a bdělost pomohou rozpoznat a efektivně reagovat na pokusy o phishing. Gamifikaci a simulaci lze využít ke zvýšení povědomí a identifikaci uživatelů ohrožených kybernetickými útoky.

Vzhledem k tomu, že phishingové kampaně řízené technologií GPT jsou stále rozšířenější, musí být organizace proaktivní ve svém úsilí o kybernetickou bezpečnost. Pochopením možností technologie GPT a zavedením robustních bezpečnostních opatření se můžeme účinně bránit této rostoucí hrozbě podvodů řízené umělou inteligencí.

(podle Barracudy)

Zdroj: https://vietnamnet.vn/lua-dao-bang-ai-moi-de-doa-nghiem-trong-doi-voi-an-ninh-mang-2205857.html