A Kaspersky figyelmeztet a sötét mesterséges intelligenciát használó kiberbűnözőkre

A Kaspersky biztonsági cég képviselője információkat szolgáltatott a sötét mesterséges intelligenciát használó kiberbűnözőkről a támadásokhoz.

A sötét mesterséges intelligencia a biztonsági normákon kívül működik, gyakran lehetővé téve olyan viselkedéseket, mint a csalás, a manipuláció, a kibertámadások vagy az adatbányászat szoros felügyelet nélkül.

„A rosszindulatú szereplők a mesterséges intelligenciát is használják támadási képességeik fokozására. A mesterséges intelligencia leggyakoribb visszaélési formája napjainkban a Black Hat GPT modellek megjelenése. Ezek olyan MI-modellek, amelyeket kifejezetten illegális célokra fejlesztettek ki vagy alakítottak át, például rosszindulatú programok létrehozására, adathalász e-mailek írására, hangok és deepfake videók készítésére…” – mondta Szergej Lozskin, a Kaspersky Közel-Keletért, Törökországért, Afrikáért és Ázsia- Csendes-óceánért felelős Globális Kutatási és Elemző Csoportjának (GReAT) vezetője.

A Black Hat GPT-k létezhetnek teljesen privát vagy félig privát MI-modellként. Néhány figyelemre méltó példa a WormGPT, a DarkBard, a FraudGPT és a Xanthorox… mindegyiket kiberbűnözésre, csalásra és rosszindulatú automatizálásra tervezték.

Lozhkin úr elárulta, hogy a Kaspersky szakértői most egy még aggasztóbb tendenciát észlelnek, amelyben a nemzetállamok vagy kormányok által támogatott kibertámadási csoportok elkezdték kihasználni a nagy nyelvi modelleket (LLM) támadási kampányaik során.

„Az OpenAI nemrégiben bejelentette, hogy több mint 20 titkos befolyásolási kampányt és kibertámadást hiúsított meg, amelyek a mesterséges intelligencia eszközeit használták ki. Egyre kifinomultabb támadókat fogunk látni, akik fegyverként használják a mesterséges intelligenciát, fenyegetést jelentve mind a nyilvános, mind a magán ökoszisztémákban. Ez egy aggasztó tendencia, amelyre minden szervezetnek fel kell készülnie” – mondta Lozhkin.

Az OpenAI jelentése szerint a rosszindulatú szereplők elkezdték kihasználni a nagy gépi tanulási modellek (LLM) képességeit az áldozatok megtévesztésére és a hagyományos biztonsági rétegek megkerülésére. Meggyőző hamis üzeneteket tudnak létrehozni, tömegesen küldhetnek üzeneteket az áldozatoknak, és több nyelven is elő tudnak állítani tartalmakat.

A sötét mesterséges intelligencia (SMI) fenyegetéseivel szembeni védelem megerősítése érdekében a Kaspersky szakértői a következőket javasolják: Következő generációs biztonsági megoldások, például a Kaspersky Next használata a mesterséges intelligencia által generált rosszindulatú programok észlelésére és az ellátási lánc kockázatainak kezelésére. Valós idejű fenyegetésfelderítő eszközök alkalmazása a mesterséges intelligencia által vezérelt sérülékenységek monitorozására. A hozzáférés-vezérlés és az alkalmazottak képzésének megerősítése az árnyék mesterséges intelligencia és az adatszivárgás kockázatának korlátozása érdekében. Biztonsági műveleti központ (SOC) létrehozása a fenyegetések monitorozására és az incidensekre való gyors reagálásra.

BA TAN

Forrás: https://www.sggp.org.vn/kaspersky-canh-bao-toi-pham-mang-dung-dark-ai-tan-cong-post808493.html