A mesterséges intelligencia számos kihívása az új korszakban

Ahogy a mesterséges intelligencia egyre elérhetőbbé válik, egyre több magánszemély és vállalkozás használja a mesterséges intelligenciát elterjedt eszközökön keresztül… a hackerek automatizálhatják a támadásokat, felgyorsíthatják a műveleteket és összetettebb kampányokat is indíthatnak illegális céljaik elérése érdekében.

A Kaspersky felfedi a mesterséges intelligencia segítségével végrehajtott kibertámadások típusait

A Kaspersky által megfigyelt támadástípusok a következők: A ChatGPT segítségével rosszindulatú programokat lehet fejleszteni, és automatikusan több áldozat ellen is lehet támadásokat indítani; a mesterséges intelligencia programok beszivárognak a felhasználók okostelefonokon lévő adataiba, és az érzékeny adatok elemzésén keresztül teljes mértékben „elolvashatják” az áldozatok üzeneteit, jelszavait és banki kódjait; a Swarm intelligencia algoritmusok segítenek az automatizált számítógépes hálózatoknak (boneteknek) helyreállítani a biztonsági megoldások által eltávolított rosszindulatú hálózatokat.

A Kaspersky kutatása a jelszavak mesterséges intelligenciával történő feltöréséről azt mutatja, hogy a legtöbb jelszót hash algoritmusokkal, például MD5-tel és SHA-val titkosítják. Egy egyszerű művelettel a jelszó titkosított szövegfolyammá alakítható, de a folyamat visszafordítása nagy kihívást jelent.

A mesterséges intelligencia segítségével a rosszindulatú szereplők csalárd tartalmakat, például szövegeket, képeket, hanganyagokat és videókat használhatnak fel social engineering támadások indításához. Nagyobb nyelvi modelleket, mint például a ChatGPT-4o, használnak rendkívül kifinomult adathalász szkriptek és üzenetek létrehozására. A nyelvi akadályok leküzdésével a mesterséges intelligencia valódi e-maileket tud írni, kizárólag a közösségi hálózatokon található információk alapján. A mesterséges intelligencia még az áldozat írási stílusát is képes utánozni. Ez még nehezebbé teszi az adathalász viselkedés észlelését.

Ugyanakkor a Deepfake „problémaként” létezik a kiberbiztonságban, bár korábban tudományos kutatás eredményének tekintették. A hírességek megszemélyesítése pénzügyi haszonszerzés céljából a leggyakoribb módszer, továbbá a csalók a Deepfake-et használják fiókok ellopására, hamis hívások kezdeményezésére az áldozatok barátainak és rokonainak tulajdon eltulajdonítása céljából.

Az illegális tevékenységekhez való mesterséges intelligencia-technológia kihasználása mellett a rosszindulatúak a mesterséges intelligencia algoritmusait is támadhatják. Ilyenek például a „gyorsbefecskendezéses” támadások, amelyek során rosszindulatú parancsokat írnak be nagyméretű nyelvi modellekbe, akár a korábban korlátozott szabályokkal ellentétesen is; ellenséges támadások, amelyek során rejtett információs mezőket adnak a képekhez vagy hanganyagokhoz, hogy befolyásolják a gépi tanulási rendszer képosztályozási képességét.

A mesterséges intelligencia fokozatosan integrálódik az emberi élet minden területébe, az Apple Intelligence-től a Google Gemini-n át a Microsoft Copilotig. Ezért a mesterséges intelligencia sebezhetőségeinek kezelése kiemelt prioritás kell, hogy legyen. A Kaspersky évek óta használja a mesterséges intelligencia technológiát ügyfelei és partnerei védelmére, folyamatosan keresi a mesterséges intelligencia rendszerek sebezhetőségeit, növeli a rendszer ellenálló képességét, és aktívan kutatja a kibertámadási technikákat, hogy megbízható védelmet nyújtson a mesterséges intelligencia támadásaival szemben.

KIM THANH

Forrás: https://www.sggp.org.vn/nhieu-thach-thuc-cua-ai-trong-thoi-dai-moi-post754401.html