Adatbiztonság a mesterséges intelligencia korában.

A deepfake-ek, az adathalász támadások és a digitális személyazonosság-lopások egyre kifinomultabbak, és bármikor lecsaphatnak, bárkit célba véve, aki nem rendelkezik digitális védelmi készségekkel.

Támadás minden szögből.

A Google piacra dobta új mesterséges intelligencia (MI) termékét, a "Gemini Nano Banana"-t, ami nem egy nagyméretű nyelvi MI (LLM), amely képes írni és gondolkodni, hanem egy képszerkesztésre szakosodott MI... Sok felhasználó izgatottan várja ezt az eszközt, de számos hátránnyal is jár.

A Ho Si Minh-városban, Cau Ong Lanh kerületben található Tran Hung Dao Általános Iskola arcfelismerő rendszert használ a jelenléti ív rögzítésére és a szülőknek küldött értesítések küldésére egy alkalmazáson keresztül. Fotó: HOANG HUNG

„Ez olyan, mint egy ’hátralépés’ a mesterséges intelligencia technológiájában és az etikai korlátokban” – mondta Nguyen Hong Phuc, a Conductify AI tudományos igazgatója, kifejezve személyes véleményét. „A Gemini Nano Banana hatékony képszerkesztő képességekkel rendelkezik. De a Google Gemini Nano Banana cenzúrázatlanná tétele, a korlátok és korlátozó mechanizmusok fellazítása lehetővé teszi ennek a mesterséges intelligenciának, hogy olyan képeket készítsen, amelyek hihetetlenül hasonlítanak hírességekre, szuggesztív képeket, érzékeny képeket stb.” – mondta Phuc.

Nguyen Hong Phuc úr szerint ez a képesség a Gemini Nano Banana-t valósághű hamis képek készítésének eszközévé teszi, olyannyira, hogy még a mesterséges intelligencia szakértői sem tudják megkülönböztetni őket, ami új csalási és kiberbiztonsági kockázatokhoz vezet, például híres politikusokkal készült hamis fotók hamis információk terjesztésére, sőt akár egyének mesterséges intelligencia által generált fotómanipulációnak és rágalmazásnak lehetnek kitéve a közösségi médiában...

Továbbá, mivel tucatnyi más mesterséges intelligencia alapú képszerkesztő eszköz hódítja meg az internetet, a deepfake csalásoknak semmi jelét nem mutatják a megállásnak. A biztonsági szervezetek statisztikái azt mutatják, hogy a deepfake technológia adathalász kampányokat hoz létre, amelyek a magas beosztású személyeket, különösen az üzleti vezetőket célozzák meg. 2024-ben világszerte 140 000-150 000 eset volt, amelyek 75%-a a vezérigazgatókat és a felsővezetőket vette célba... A deepfake-ek 2027-re 32%-kal, azaz évi körülbelül 40 milliárd dollárral növelhetik a globális gazdasági veszteségeket.

A közelmúltban az Anthropic mesterséges intelligenciával foglalkozó cég külföldi hackerek által végrehajtott kibertámadási kampányt észlelt és meghiúsított, amely első alkalommal rögzítette mesterséges intelligencia használatát automatizált támadási tevékenységek koordinálására. Konkrétan a hackerek mesterséges intelligencia rendszereket használtak behatolási műveletek megtervezésére, irányítására és végrehajtására – ez egy „aggasztó” fejlemény, amely veszélyezteti a kibertámadási kampányok mértékének és sebességének növekedését…

Ngo Minh Hieu úr, a Nemzeti Kiberbiztonsági Szövetség Csalás Elleni Szervezetének igazgatója elmondta, hogy a mesterséges intelligenciával integrált eszközök körülbelül hússzorosára növelik a csalás sebességét a valódi emberek használatához képest. A csalók elemzésre egy csalási forgatókönyvet adnak a mesterséges intelligenciának, és a rendszer azonnal automatikusan csevegni kezd az áldozatokkal. A kezdeti adatokból a mesterséges intelligencia megérti, mit akar az áldozat, és valós időben kommunikál vele. A legkifinomultabb taktika a „közbeékelődéses ember” támadás, ahol amikor a felhasználó videós hitelesítést hajt végre (például rögzíti az arcát vagy parancsokat ad), a hacker beavatkozik, hogy megzavarja a továbbított adatokat. A kiberbűnözők ezután előre elkészített deepfake videókat illesztenek be, lecserélve a felhasználó valódi adatfolyamát, hogy megkerüljék a hitelesítési folyamatot. Ezzel a módszerrel a bankok és pénzügyi intézmények biztonsági rendszerei is ki vannak téve a megtévesztés veszélyének.

Jobb adatkezelés

Ahogy a mesterséges intelligencia egyre elterjedtebbé válik, a biztonsági és adatvédelmi kockázatok is jelentősen megnőnek. A távoli szervereken tárolt és feldolgozott adatok vonzó célponttá válnak a hackerek és a kiberbűnözők számára. A Nemzeti Kiberbiztonsági Szövetség adatai szerint csak 2025 második negyedévében 62%-kal nőtt a mesterséges intelligencia által vezérelt kibertámadások száma, ami akár 18 milliárd dolláros globális veszteséget is okozott...

A szakértők úgy vélik, hogy az adatvédelem kulcsfontosságú. Az adatok gyűjtése és értékesítése azonban számos „feketepiaci” platformon nyíltan folytatódik, akár havi 20 dollárért is. A kiberbűnözők olyan eszközöket is használhatnak, amelyek utánozzák a nyelvi modelleket, de bűnözői célokra vannak testreszabva. Ezek az eszközök képesek rosszindulatú programok létrehozására, sőt, akár a víruskereső szoftverek megkerülésére is.

Vietnámban a személyes adatok védelmét a 13/2023/ND-CP számú rendelet szabályozza (amely 2023. április 17-től lépett hatályba). Továbbá a személyes adatok védelméről szóló törvény, amely várhatóan 2026. január 1-jén lép hatályba, erősebb jogi mechanizmust nyit meg a személyes adatok szivárgásának és visszaélésének kockázatának kezelésére. A Nemzeti Kiberbiztonsági Szövetség szerint azonban a végrehajtás hatékonyságát még mindig meg kell erősíteni három pillér mentén: a lakosság tudatosságának növelése, a vállalati felelősségvállalás növelése és a szabályozó hatóságok feldolgozási kapacitásának javítása. A technikai intézkedéseken túl mindenkinek fejlesztenie kell a szokatlan és gyanús jelek azonosításának képességét, és proaktívan meg kell védenie magát a veszélyes digitális interakcióktól…

A Kaspersky figyelmeztetett a sötét mesterséges intelligencia (Sötét MI) kiaknázására (ez a kifejezés a szabványos biztonsági ellenőrzéseken kívül működő nagyméretű nyelvi modellek (LLM) telepítésére utal, amelyek gyakran lehetővé teszik az olyan tevékenységeket, mint az adathalászat, a manipuláció, a kibertámadások vagy az adatokkal való visszaélés). A szervezeteknek és az egyéneknek fel kell készülniük az egyre kifinomultabb és nehezebben észlelhető kibertámadásokra a sötét mesterséges intelligencia ázsiai-csendes-óceáni térségben való térnyerése miatt.

Szergej Lozskin, a Kaspersky közel-keleti, törökországi, afrikai és ázsiai-csendes-óceáni térségért felelős globális kutatási és elemzési csapatának (GReAT) vezetője megosztotta, hogy a jelenlegi mesterséges intelligencia-visszaélések egyik megnyilvánulása a Black Hat GPT-modellek megjelenése. Ezek olyan MI-modellek, amelyeket kifejezetten etikátlan és illegális célok kiszolgálására fejlesztettek ki vagy módosítottak, például rosszindulatú programok létrehozására, gördülékeny és meggyőző adathalász e-mailek készítésére nagyszabású támadásokhoz, deepfake hangok és videók létrehozására, sőt szimulált támadások támogatására is.

A Kaspersky szakértői azt javasolják, hogy a magánszemélyek és a vállalkozások a mesterséges intelligencia által generált rosszindulatú programok észlelésére a következő generációs biztonsági megoldásokat használják, miközben az adatvédelmet is előtérbe helyezik. A vállalkozásoknak valós idejű megfigyelőeszközöket kell bevezetniük a mesterséges intelligencia által vezérelt sebezhetőségek kihasználásának nyomon követésére; meg kell erősíteniük a hozzáférés-vezérlést és az alkalmazottak képzését a mesterséges intelligencia sötét zónában való jelenlétének és az adatszivárgás kockázatának korlátozása érdekében; valamint létre kell hozniuk egy kiberbiztonsági műveleti központot a fenyegetések figyelésére és az incidensekre való gyors reagálásra.

KIM THANH

Forrás: https://www.sggp.org.vn/bao-mat-du-lieu-thoi-ai-post824210.html